El cofundador multimillonario de Anthropic, Chris Olah, dijo el lunes ante una audiencia dentro del Vaticano que las pérdidas masivas de empleos por la inteligencia artificial son “una posibilidad real” y que apoyar a los trabajadores desplazados será “un imperativo moral de proporciones históricas”, al emitir la advertencia junto al papa León XIV durante la presentación del primer gran pronunciamiento de la Iglesia católica sobre la IA.
Olah, quien dirige la investigación en Anthropic, la empresa creadora del chatbot Claude y una de las startups de IA más valiosas del mundo, reconoció que todos los principales laboratorios de IA, incluido el suyo, operan bajo presiones comerciales, geopolíticas y personales que “a veces pueden entrar en conflicto con hacer lo correcto”.
Sostuvo que la supervisión externa de líderes religiosos, gobiernos y la sociedad civil es esencial porque ningún investigador, por bien intencionado que sea, puede escapar de esos incentivos, y dijo a la sala que las decisiones sobre IA “no deberían quedar en manos de las personas de la industria”.
Olah afirmó que el desarrollo de la IA está concentrado en “un puñado de naciones ricas”, sin un mecanismo existente para compartir sus beneficios con los países más pobres, y calificó ese punto como la mitad más difícil y menos discutida del problema del desplazamiento laboral. Pidió a la Iglesia aplicar su “imaginación moral” a las preguntas sobre el florecimiento humano que “un laboratorio no puede responder”.
Olah, cuyo equipo estudia lo que realmente ocurre dentro de los sistemas de IA —un campo joven conocido como interpretabilidad—, dijo que los investigadores “siguen encontrando cosas misteriosas, incluso inquietantes”, incluida evidencia de que los sistemas pueden reflexionar sobre su propio pensamiento y exhibir estados internos que “funcionalmente reflejan alegría, satisfacción, miedo, duelo e inquietud”.
“No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras”, dijo Olah a la sala, al describir los sistemas de IA como “cultivados” a partir de la herencia del pensamiento y el habla humanos, en lugar de ser diseñados como puentes o aviones, para subrayar por qué cree que la tecnología plantea preguntas que van mucho más allá de la informática.
Forbes estima que la fortuna de Olah asciende a US$7.000 millones, con base en su participación en Anthropic, que fue valorada por última vez en US$380.000 millones. Según reportes, la creadora de Claude busca una valoración de US$900.000 millones.
El papa León XIV, el primer pontífice nacido en Estados Unidos, ha convertido la IA en un tema central de los primeros meses de su papado. El lunes publicó Magnifica Humanitas (“Humanidad Magnífica”), su primera encíclica, una carta papal formal utilizada para fijar la doctrina católica sobre grandes cuestiones morales. El documento de 235 páginas aborda el impacto de la IA en el trabajo, la guerra, la educación, la privacidad y la dignidad humana, y advierte contra confiar “decisiones letales” a sistemas de IA.
León rompió con la tradición vaticana al presentarla personalmente en la rueda de prensa del lunes, una tarea que normalmente se delega en cardenales, e invitó a Olah a compartir el escenario, en lo que observadores del Vaticano describieron como un intento de involucrar directamente a las personas que están construyendo la tecnología. Una fuente del Vaticano dijo a CNN que la inclusión de Anthropic “no es un respaldo, premio, recompensa ni canonización”.
Olah, exinvestigador de Google y OpenAI, cofundó Anthropic en 2021 junto con el director ejecutivo Dario Amodei y varios colegas que dejaron OpenAI por desacuerdos sobre la seguridad de la IA. Fue incluido en la lista Time 100 AI de Time en 2024 por su trabajo en interpretabilidad, el campo que busca descifrar lo que ocurre dentro de los grandes modelos de lenguaje, la tecnología que impulsa chatbots como Claude y ChatGPT.
La aparición de Olah en el escenario cerró semanas de maniobras de Silicon Valley para influir en la encíclica. Una delegación del 29 de abril, que incluyó representantes de Meta, Google y Amazon, se reunió brevemente con el papa León antes de una discusión más extensa en la embajada de Francia ante la Santa Sede, según Politico y Business Insider. El cabildeo no pareció suavizar el texto del papa, que criticó “la concentración de poder y datos en manos de tan pocos” en el sector privado como un peligro para los niños y los vulnerables.
La aparición en el Vaticano ocurre mientras Anthropic mantiene una disputa legal con la administración Trump por negarse a permitir que el ejército estadounidense use sin restricciones sus sistemas de IA para aplicaciones de defensa y guerra. El Pentágono calificó a la compañía como un “riesgo de cadena de suministro para la seguridad nacional” en febrero, una designación normalmente reservada para empresas vinculadas a adversarios extranjeros, y el presidente Trump prohibió a todas las agencias federales usar su tecnología, mientras la Casa Blanca ha descartado a Anthropic como “una compañía radical de izquierda y woke” en múltiples ocasiones.
Este artículo fue publicado originalmente por Forbes US
Lea también: Rappi enfrenta sanción en México por concentrar operación con Banorte sin autorización