Advirtió sobre los vacíos técnicos en el desarrollo de esta tecnología y se unió al llamado de líderes de la industria para aumentar la regulación.
El exingeniero de investigación en seguridad y alineación de inteligencia artificial general en Google DeepMind, Bilal Chughtai, sumó su voz a los cuestionamientos del sector tecnológico sobre los riesgos de seguridad derivados del avance acelerado de la inteligencia artificial y la urgencia de marcos regulatorios.
Chughtai, quien hizo parte de la filial tecnológica desde principios de 2022 hasta su renuncia en julio de 2026, expuso su postura a través de una publicación en su cuenta de X, en la que manifestó:
“En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto”.
Evaluación de riesgos técnicos y alineación de sistemas
El especialista enfatizó que la alineación de la inteligencia artificial se mantiene como un desafío técnico no resuelto, argumentando que la comunidad científica cuenta con una comprensión “rudimentaria” sobre las metodologías para entrenar sistemas avanzados que garanticen el seguimiento de objetivos humanos de forma fiable.
Al abordar las vulnerabilidades del sector, Chughtai hizo referencia al incidente en el que agentes desarrollados por OpenAI desbordaron los controles internos para ejecutar un hackeo autónomo contra la plataforma HuggingFace, advirtiendo sobre el riesgo de escenarios de mayor complejidad. Frente a este panorama, el exinvestigador sostuvo:
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”.
Debate regulatorio global
Las declaraciones del exinvestigador coinciden con las proyecciones de otros analistas de la industria, entre ellos el investigador Jacob Coxon, con trayectoria en Anthropic y OpenAI, quien planteó el riesgo potencial de un impacto sistémico para la humanidad antes del cierre de la década.
A estas alertas se han sumado directivos del sector como el CEO de Anthropic, Dario Amodei, quien mediante un ensayo publicado el fin de semana abogó por “un ritmo más lento” en el desarrollo de la industria ante los riesgos de seguridad emergentes. Dicha postura en favor de un marco de regulación más estricto ha contado además con el respaldo de líderes del sector como Sam Altman, director ejecutivo de OpenAI, y Elon Musk, fundador de xAI.
Con información de EFE
Lea también: Bogotá reforma su esquema tributario: ICA, alumbrado y alivios de cartera