Musk cuestionó las declaraciones de Coxon y sugirió, sin aportar pruebas, que sus publicaciones podrían responder a una operación de relaciones públicas.

Elon Musk cuestionó las declaraciones de un exinvestigador de Anthropic que, tras abandonar la compañía, alertó sobre los riesgos que representa la IA para los humanos. El multimillonario también sugirió, sin aportar pruebas, que su salida podría responder a una conspiración o a una estrategia de relaciones públicas, pese a que otros investigadores de IA han expresado preocupaciones similares.

Datos clave

  • El ex investigador de Anthropic, Jacob Coxon, expresó su preocupación en una serie de publicaciones en X el martes, acusando tanto a OpenAI como a Anthropic de no actuar de manera responsable al “apresurarse directamente hacia la superinteligencia auto-mejorada y jugar con nuestras vidas”.
  • La publicación de Coxon en la que afirma que quienes desarrollan IA creen que podría “matarnos a todos para finales de la década”, y que esto no era una “estrategia de marketing”, ha conseguido más de 23 millones de visualizaciones en X.
  • En respuesta a una publicación sobre la duración del mandato de Coxon en Anthropic, Musk intervino el miércoles por la noche tuiteando : “Parece una trampa”.
  • Cuando alguien señaló que el número total de visualizaciones de las publicaciones de Coxon había superado los 120 millones, Musk afirmó que no creía que algo así hubiera ocurrido nunca con una “publicación de una cuenta nueva con casi ninguna actividad previa”.
  • Cuando Tim Sweeney, CEO y multimillonario de Epic, afirmó que las publicaciones y reacciones parecían “coreografiadas”, Musk intervino nuevamente, alegando sin ninguna evidencia que esto fue una chispa que siguió a una “preparación” para una “operación psicológica (a falta de un término mejor)”, presumiblemente contra la IA.

Algunas otras figuras se hicieron eco de las críticas de Musk sobre la publicación y pusieron en duda las intenciones de Coxon, incluido el multimillonario Bill Ackman, quien escribió “Interesante” al compartir una publicación que afirmaba que las publicaciones parecían ser el “inicio de una operación de relaciones públicas MUY sofisticada y bien financiada para obtener apoyo para que los demócratas regulen la IA hasta el olvido”. David Sacks, quien se desempeñó como asesor de criptomonedas e IA del presidente Donald Trump hasta marzo, también arremetió contra Anthropic y escribió : “Sin duda, la salida a bolsa de Anthropic debe suspenderse hasta que se puedan investigar las afirmaciones de este ‘denunciante'”. Sacks ya había acusado a Anthropic de “llevar a cabo una sofisticada estrategia de captura regulatoria basada en la infundación de miedo”. El inversor tecnológico Jason Calacanis, quien copresenta el podcast de la industria tecnológica All-In con Sacks, también dirigió sus críticas a Anthropic. Calacanis preguntó si Anthropic estaba utilizando “algún tipo de manual de captura regulatoria o si todos los que trabajan en Anthropic ven algo que hace que su pdoom (probabilidad de desastre) aumente?”.

¿Qué sabemos sobre Jacob Coxon?

Axios informó que Coxon llevaba solo cuatro meses en Anthropic, lo que significa que dejó la empresa dos meses antes de que se consolidaran sus opciones sobre acciones. El informe indicaba que el investigador aún conservaba acciones de su anterior empleador, OpenAI, donde también trabajó como investigador de preentrenamiento. En sus publicaciones de X, comparó su experiencia en ambas empresas y afirmó que los empleados de OpenAI no habían “internalizado profundamente las implicaciones para la civilización”, pero añadió que en Anthropic el tema se “entendía perfectamente”. A pesar de ello, declaró que el creador de Claude estaba “inmerso en una carrera por ser el primero”, ya que creían que “nadie más actuaría con responsabilidad, así que debían hacerlo ellos mismos, a pesar del riesgo”.

¿Ha respondido Coxon a las críticas?

Tras el comentario sarcástico de Musk de que “parece una trampa”, Coxon le respondió en X y escribió : “Soy real y estas son mis verdaderas creencias. Podrías preguntarles a tus investigadores de xAI sobre mí si no los hubieras despedido”. En una publicación posterior, Coxon instó a Musk a ayudar, diciendo: “Has hablado mucho sobre cómo te sientes obligado a participar en esta carrera y sobre los peligros de la IA avanzada”.

A pesar de las críticas de Musk, las declaraciones de Coxon han recibido el apoyo de varios investigadores de IA. Evan Hubinger, líder de ciencia de alineación en Anthropic, compartió las publicaciones de Coxon sobre X y escribió que él y sus colegas creen firmemente que la IA podría acabar con la humanidad, y que personalmente cree que hay más de un 10 % de probabilidades de que esto ocurra en la próxima década. Hubinger añadió: “Creo que en Anthropic estamos haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello”.

Este artículo fue publicado originalmente por Forbes US.

Le puede interesar también: Senado de EE.UU. investiga a OpenAI por agentes de IA que hackearon sitios web