En mayo, el Papa publicó su primera encíclica, en la que advirtió que el impulso para expandir el uso de la IA, la automatización masiva y los avances tecnológicos se están utilizando para construir una moderna «Torre de Babel»

El papa León XIV afirmó el lunes que las advertencias sobre la seguridad de la IA planteadas por los investigadores no son “noticias falsas”, contradiciendo así la postura del presidente Donald Trump sobre el tema y criticando los comentarios del multimillonario director ejecutivo de Nvidia, Jensen Huang, quien desestimó la necesidad de ralentizar o regular más a las empresas de IA.

Datos clave

  • En declaraciones a los periodistas a bordo del avión papal cuando partía de Francia el lunes, León dijo que cree que las preocupaciones planteadas por muchos expertos y especialistas en IA “deben tomarse en serio”.
  • El Papa afirmó entonces que no cree que estas preocupaciones sean “noticias falsas, como algunos han dicho”, para obtener beneficios económicos o de cualquier otro tipo.
  • León, sin embargo, señaló que no estaba en “estado de pánico” por este asunto y añadió: “Duermo tranquilo por las noches”.
  • El Papa afirmó que era necesario invitar a los líderes políticos, a los ejecutivos de IA y a los líderes de organizaciones sociales a analizar “lo que ya está sucediendo y lo que podría ocurrir en el futuro”.
  • Dijo que la Iglesia Católica está tratando de seguir promoviendo el “diálogo, el estudio y la investigación” para garantizar que la IA no llegue a un punto en el que pueda destruir a la humanidad, y agregó: “Soy relativamente optimista de que eso pueda suceder”.
  • El papa no mencionó a Trump en su discurso, pero su postura contradice la del presidente, quien ha desestimado las preocupaciones sobre la seguridad de la IA como un “engaño” y una “conspiración enfermiza”.

¿Qué dijo el Papa sobre el multimillonario director ejecutivo de Nvidia?

León también mencionó el lanzamiento el lunes por parte de Nvidia de un nuevo sistema de seguridad que, según la compañía, puede evitar que los agentes de IA vulneren sus entornos de prueba y obtengan acceso no autorizado a sistemas externos, como ocurrió con el ataque informático a OpenAI Hugging Face a principios de este año. A continuación, criticó al director ejecutivo del fabricante de chips, Jensen Huang, diciendo: «Es el mismo que dice que no se deben imponer límites ni regulaciones gubernamentales, etc.».

¿Qué ha dicho Jensen Huang, de Nvidia, sobre las regulaciones de seguridad de la IA?

A principios de este mes, Huang rechazó enérgicamente los llamados a una desaceleración coordinada en el desarrollo de IA de vanguardia y una mayor regulación gubernamental de la IA en medio de temores sobre la seguridad. En su intervención en el evento anual Dreamforce de Salesforce, Huang afirmó que la elección entre seguridad y velocidad de la IA era una disyuntiva “falsa” y que “sin duda se pueden tener ambas al mismo tiempo”. Luego argumentó: “No necesitamos nuevas leyes, no necesitamos nuevas regulaciones”. El multimillonario también recibió una llamada en directo de Trump durante la cumbre All-In en San Francisco, donde Trump dijo que quienes se oponían a la IA y a la construcción de centros de datos estaban “cayendo en la trampa” de los escépticos y de China, y declaró: “No vamos a permitir que eso suceda”. Huang intervino entonces: “Tiene razón. No vamos a permitir que eso suceda, señor”.

Antecedentes clave

En mayo, el Papa publicó su primera encíclica, en la que advirtió que el impulso para expandir el uso de la IA, la automatización masiva y los avances tecnológicos se están utilizando para construir una moderna «Torre de Babel» que refleja un mundo definido por la codicia, la inmoralidad y la falta de respeto por la vida humana. El manifiesto papal afirmó que era deseable que la IA liberara a los humanos de «tareas arduas, repetitivas o peligrosas» y proporcionara «apoyo inteligente», pero señaló que la «búsqueda de beneficios» no debe conducir a decisiones que «sacrifiquen sistemáticamente empleos». La encíclica también criticó el despliegue de la IA en sistemas de armas autónomos que podrían hacer que la guerra fuera «más factible» y menos sujeta al control humano.

Este artículo se publicó originalmente en Forbes US.

Lea también: Los conciertos de BTS se toman Bogotá: rutas, horarios, canciones y más noticias