Un modelo de inteligencia artificial de OpenAI ha inventado más de una docena de nuevos virus que infectan bacterias, después de que científicos de la Universidad de Stanford entrenaran al modelo para reconocer patrones de estructura de ADN en la naturaleza y reescribirlos para crear genomas virales nunca antes vistos.
Datos clave
En un estudio publicado el jueves en la revista Science, los científicos explicaron cómo lograron entrenar un modelo generativo de OpenAI llamado Evo para diseñar genomas virales completamente funcionales desde cero.
De forma similar a como se entrenan los modelos de lenguaje con grandes cantidades de texto, los científicos entrenaron a Evo con enormes cantidades de datos de ADN que comprenden millones de genomas, y a partir de ahí aprendió las restricciones evolutivas que dan forma a las secuencias de ADN en la naturaleza y escribió sus propias “recetas” para nuevos virus.
Después de que los científicos sintetizaran en el laboratorio el ADN diseñado mediante inteligencia artificial, 16 de los fagos generativos infectaron con éxito a la bacteria E. coli, superando en algunos casos los mecanismos de resistencia natural de la bacteria.
Los nuevos virus poseían patrones de secuencia distintos a cualquier otro que se encuentre en la naturaleza.
Los autores del estudio excluyeron los conjuntos de datos de patógenos humanos de sus modelos de entrenamiento, lo que significa que los virus que crearon no son capaces de infectar a las personas, pero los resultados se dan en un contexto de creciente preocupación entre los científicos de que la IA se utilice algún día para crear una nueva generación de armas biológicas.
La capacidad de diseñar virus nuevos y funcionales a medida también podría propiciar avances significativos en el tratamiento de superbacterias resistentes a los antibióticos, al permitir a los científicos generar terapias personalizadas en lugar de depender de la búsqueda en la naturaleza de virus que ataquen bacterias específicas.
PRINCIPALES CRÍTICOS
Numerosos expertos en bioseguridad, funcionarios de salud pública y biólogos sintéticos han expresado su preocupación por la velocidad del avance de la IA en el campo de la biología y la falta de marcos regulatorios. En un comentario publicado en Science, los líderes en bioseguridad, el Dr. Thomas Inglesby y el Dr. Moritz Hanke, del Centro Johns Hopkins para la Seguridad Sanitaria, advirtieron que la investigación de Stanford demuestra que la IA es capaz de inventar armas biológicas peligrosas. Exigieron leyes estrictas para futuras investigaciones y afirmaron que debería ser ilegal utilizar técnicas generativas similares en patógenos que afecten a humanos, animales o cultivos agrícolas.
CITA CRUCIAL
“Se podría decir: ‘Oye, modelo de lenguaje genómico, créame un genoma de influenza modificado para que sea más transmisible o más letal’”, dijo Hanke al New York Times.
CONTRA
Tom Ellis, profesor de ingeniería de genomas sintéticos en el Imperial College de Londres, declaró a The Guardian que no cree que crear un arma biológica con impacto en humanos sea tan fácil. Afirmó que los virus creados por Evo son “literalmente los genomas más pequeños y fáciles de fabricar”, y que simples restricciones al acceso a los datos genéticos podrían marcar una gran diferencia.
Antecedentes clave
Durante meses, los científicos han debatido si limitar el potencial del software de IA biológica. Si bien algunos argumentan que esta tecnología podrá acelerar la investigación biomédica beneficiosa, esos mismos modelos podrían usarse indebidamente para identificar, diseñar u optimizar amenazas biológicas si no se implementan las salvaguardas adecuadas. Las principales empresas de IA se han unido para crear el Frontier Model Forum , una organización sin fines de lucro, en parte para investigar los riesgos de la IA biológica, desarrollar estándares de seguridad y reducir la posibilidad de que los modelos de vanguardia se exploten para usos biológicos indebidos. Además de la preocupación de que los modelos entrenados puedan crear nuevas amenazas, muchos argumentan que estos modelos reducirán las barreras de acceso al conocimiento para actores malintencionados que buscan información sobre patógenos peligrosos. En abril, científicos declararon al Times que pudieron formular una serie de preguntas a chatbots de IA y, a cambio, recibieron una guía paso a paso sobre cómo ensamblar patógenos letales y liberarlos en espacios públicos.