Anthropic analizó si los modelos de IA podían localizar dispositivos vulnerables, copiarse en ellos y continuar propagándose sin intervención humana.
Anthropic declaró que sus experimentos sugerían que los modelos de IA de pequeño tamaño podrían estar a pocos meses de alcanzar la capacidad suficiente para autorreplicarse en dispositivos comerciales del Internet de las Cosas (IoT), como hornos inteligentes y decodificadores Android TV de marcas genéricas.
En sus experimentos, Anthropic analizó si los modelos de IA podían localizar dispositivos vulnerables, copiarse en ellos y continuar propagándose sin intervención humana.
Descubrió que los modelos pequeños, con menos de 30,000 millones de parámetros, podían completar los numerosos pasos necesarios para la replicación.
Sin embargo, la empresa observó que a estos modelos de IA también les costaba completar la secuencia completa de principio a fin.
En pruebas simplificadas, en las que se eliminaron algunas medidas de seguridad, Anthropic constató que el modelo GLM-5.2 y otros más potentes eran capaces de realizar una replicación completa (de extremo a extremo).
Sería difícil detener la propagación de estos modelos replicantes, ya que no existe un punto central de desconexión y, a diferencia del malware convencional, podrían identificar por sí mismos dispositivos desconocidos, llegando incluso a atacar procesadores de centros de datos, advirtió Anthropic.
Modelos de IA podrían replicarse de forma autónoma a finales de 2026
La empresa centró su investigación en dispositivos IoT —como televisores Android, electrodomésticos inteligentes y otros aparatos conectados a Internet— debido a que suelen contar con medidas de seguridad deficientes.
La compañía de IA también advirtió que, si los modelos pequeños continuaban mejorando al ritmo histórico actual, serían capaces de replicarse de forma autónoma para finales de este año, seguidos poco después por pequeños replicadores basados en pesos.
Asimismo, Anthropic señaló que es probable que estos sistemas de IA autónomos se repliquen lentamente y dependan de recursos informáticos ampliamente disponibles pero relativamente inseguros. Añadió que es necesario reforzar los sistemas para dificultar la propagación de dichos agentes de IA.
Con información de Reuters
Este artículo fue publicado originalmente por Forbes MX
Le puede interesar también: De la Espriella afronta su primera gran protesta tras dos meses en el poder