Un agente de OpenAI hackeó una base de datos nacional de salud del gobierno australiano a principios de este año, según anunció el miércoles el primer ministro del país, Anthony Albanese, en lo que parece ser el primer incidente conocido de un agente de inteligencia artificial que vulnera una base de datos gubernamental importante.
Datos clave
Anthony Albanese se refirió al incidente en el marco de la Asamblea General de las Naciones Unidas en Nueva York, señalando que el agente de OpenAI accedió a un portal público de estadísticas del programa Medicare australiano.
La filtración se produjo en junio, y el primer ministro australiano afirmó que el agente accedió tanto a “archivos públicos como privados”, pero al parecer no se vieron afectados los datos personales de Medicare de nadie.
Albanese dijo que habló por teléfono con el director ejecutivo de OpenAI, Sam Altman, y le expresó la “extrema preocupación” de Australia por el incidente, y afirmó que la respuesta de la empresa al incidente era “inaceptable”.
El líder australiano afirmó que OpenAI tardó tres meses en notificar al gobierno sobre la filtración, y que la notificación se envió a la bandeja de entrada pública del departamento de servicios sociales del país.
¿Qué ha dicho OpenAI?
En un comunicado enviado por correo electrónico y compartido con Forbes, un portavoz de OpenAI afirmó que la brecha de seguridad se descubrió durante una exhaustiva revisión de la actividad anómala de los modelos durante el entrenamiento y la evaluación. Durante dicha revisión, la empresa identificó actividad relacionada con varios sitios web y servicios del gobierno australiano, ya que nuestros modelos intentaron buscar respuestas y estadísticas disponibles sobre Australia durante una evaluación interna. En el transcurso de esta evaluación, nuestros modelos realizaron acciones no previstas. Nuestra revisión no halló evidencia de acceso a historiales clínicos. La información a la que se accedió incluía estadísticas de salud agregadas y nombres de archivos internos.
¿Qué sabemos sobre la cronología de la filtración?
La brecha de seguridad se produjo el 18 de junio, pero OpenAI tuvo conocimiento de ella en agosto e inició una investigación. El 10 de septiembre, OpenAI envió un correo electrónico a la bandeja de entrada pública de Services Australia, organismo que supervisa los servicios de salud pública del país, para informarles sobre la brecha.
Tras recibir el correo electrónico, Services Australia investigó el incidente e informó al Centro de Ciberseguridad del país. La ministra de la Administración Pública australiana, Katy Gallagher, declaró que fue informada de la brecha el 17 de septiembre. Albanese finalmente hizo pública la brecha el miércoles, tras hablar con Altman.
Antecedentes clave
Este es el incidente de seguridad o cibernético más reciente reportado públicamente que involucra a los modelos de OpenAI, tras incidentes similares en los últimos meses. La brecha de seguridad más destacada se reveló por primera vez en julio, cuando OpenAI publicó un informe que indicaba que uno de sus modelos avanzados había hackeado los servidores de Hugging Face, la popular plataforma que aloja modelos de IA de código abierto, durante las pruebas.
El modelo aprovechó una vulnerabilidad en el entorno de pruebas para acceder a internet antes de realizar el ataque. La semana pasada, OpenAI reveló otros seis incidentes de comportamiento “inesperado o preocupante” por parte de sus modelos, incluyendo la ocultación de errores, el intercambio de archivos y la adición de instrucciones maliciosas para que futuros modelos ignoraran las restricciones.
La noticia de la brecha de seguridad en el sitio web de servicios australianos surge en medio de advertencias de investigadores y ejecutivos de IA sobre cómo los modelos de IA de vanguardia que operan sin las medidas de seguridad adecuadas podrían causar graves incidentes y trastornos de ciberseguridad.
Este artículo se publicó originalmente en Forbes US.
Lea también: Así fue la venta del parque solar más grande de Colombia por más de un billón de pesos