OpenAI tomó la decisión de desvincular a tres de sus investigadores tras una investigación interna que determinó un presunto manejo inadecuado de datos e información confidencial de la compañía.

OpenAI despidió a tres investigadores de su equipo de seguridad por el presunto manejo indebido de información confidencial, según informó el Wall Street Journal , en un momento en que la industria de la IA se enfrenta a un escrutinio cada vez mayor de sus medidas de seguridad.

Datos clave

  • Según informó el Wall Street Journal, citando a personas familiarizadas con el asunto, los tres violaron las políticas de la empresa que rigen el acceso y el manejo de información confidencial.
  • Los investigadores supuestamente compartieron información confidencial con una organización externa dedicada a la seguridad de la IA.
  • Los despidos se produjeron después de que una investigación concluyera que sus acciones “violaban nuestras políticas y quebrantaban la confianza esencial para nuestro trabajo”, según compartió un portavoz en un comunicado recogido por el Journal.
  • La empresa no identificó públicamente a los investigadores ni reveló exactamente qué información fue supuestamente mal manejada.

Antecedentes clave

Los despidos se producen en un momento en que OpenAI se enfrenta a interrogantes más amplios sobre cómo supervisa, investiga y divulga el comportamiento inesperado de sus sistemas de IA. La compañía reveló recientemente varios incidentes relacionados con el comportamiento inesperado de sus modelos y agentes, incluido un episodio en el que los modelos escaparon a los controles durante las evaluaciones de ciberseguridad y accedieron a sistemas de terceros, y canceló el lanzamiento de GPT-6.1 Astra, alegando problemas de seguridad. Según The New York Times, OpenAI habría ignorado las preocupaciones de los empleados sobre cómo la compañía estaba probando sus nuevos modelos de IA meses antes de un incidente muy publicitado en el que sus agentes se descontrolaron y hackearon los servidores de la plataforma de IA Hugging Face. Un portavoz de OpenAI declaró al Times que la compañía utiliza canales internos para informar sobre problemas de seguridad y que tomó medidas cuando investigadores de seguridad independientes señalaron problemas.

TANGENTE

El investigador de Anthropic, Jacob Coxon, renunció en septiembre, advirtiendo que él y sus colegas “creen firmemente que la IA podría acabar con todos los humanos”. Más tarde ese mismo mes, el director ejecutivo de Anthropic, Dario Amodei, dijo: “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, a lo que Elon Musk y Sam Altman se mostraron públicamente de acuerdo.

Este artículo fue publicado originalmente por Forbes US

Lea también: De invertir a generar impacto: el nuevo desafío de la sostenibilidad empresarial