El creciente número de intentos de hackeo ilícitos por parte de agentes de IA maliciosos intensificó la presión sobre los pioneros del campo y planteó una mayor regulación.

Anthropic frustró intentos de utilizar sus modelos Claude para desarrollar armas biológicas y llevar a cabo una presunta campaña de ciberespionaje vinculada a Rusia contra Ucrania, informó la destacada empresa de inteligencia artificial en un informe.

Asimismo, en su último informe de inteligencia sobre amenazas —que documenta el uso malicioso de su tecnología en los últimos ocho meses—, la compañía acusó a competidores chinos de realizar intentos de piratería informática con el objetivo de extraer las capacidades de Claude.

El creciente número de intentos de hackeo ilícitos por parte de agentes de IA maliciosos, sumado a la preocupación expresada por expertos del sector sobre los riesgos de esta tecnología, intensificó la presión sobre los pioneros del campo y planteó la posibilidad de una mayor regulación.

Dos investigadores de Anthropic advirtieron esta semana que el rápido avance de la inteligencia artificial podría conducir a la extinción de la raza humana en un futuro no muy lejano.

Misiles, drones y armas biológicas

En su informe, Anthropic señaló que existe desde hace tiempo la preocupación de que los modelos de IA puedan alcanzar algún día un nivel de capacidad que permita ayudar a hacer más peligrosos los patógenos existentes o a crear otros totalmente nuevos.

La empresa documentó cinco casos en los que científicos utilizaron sus modelos de formas que podrían facilitar el desarrollo de armas biológicas.

En un caso, un investigador de una región no admitida por Anthropic utilizó una infraestructura de servidor privado virtual para acceder a Claude y, durante semanas, lo empleó para planificar experimentos de adaptación de la gripe aviar a mamíferos.

Entre las regiones no admitidas por Anthropic figuran países como Rusia, China y Corea del Norte, entre otros.

Tras detectar el uso indebido, la empresa bloqueó las cuentas implicadas en dichas investigaciones e incorporó sus hallazgos a sus procesos de salvaguardias para modelos de vanguardia, aplicación de normas e inteligencia de amenazas.

Anthropic no reveló las instituciones, los países donde tienen su sede ni los agentes biológicos y técnicas de investigación específicos implicados.

También identificó lo que denominó “nuevas categorías de actores de amenazas” que hacían un uso indebido de Claude. Esto incluía el uso de la plataforma para “desarrollar software para armas convencionales —incluidas armas de fuego, misiles, drones armados, bombas y otras municiones—, así como para los sistemas de guiado y control que las operan”.

El informe detallaba incidentes en los que operadores de China, Rusia y Yemen utilizaron Claude para desarrollar software destinado al diseño y desarrollo de armas, o para apoyar la recopilación de inteligencia y la adquisición de recursos relacionados con programas armamentísticos.

Las rápidas mejoras en los modelos de Anthropic plantearon nuevos riesgos, declaró a Reuters Jacob Klein, responsable de inteligencia de amenazas de la empresa.

“Hace un año, si uno quería optimizar un dron o el software de un misil, los modelos no eran tan eficaces en esa tarea como lo son ahora”, afirmó.

Hackers rusos utilizan la inteligencia artificial de Anthropic contra ucranianos

Anthropic descubrió que ciberdelincuentes y hackers respaldados por estados utilizaban cada vez más la inteligencia artificial para organizar y ejecutar gran parte de sus ciberataques; en estos casos, los humanos actuaban a menudo como supervisores en lugar de operadores directos.

“El uso de la IA iba más allá de las simples preguntas y respuestas de un chatbot e implicaba la utilización de marcos de trabajo multiagente”, señaló la empresa.

De acuerdo con Anthropic, un grupo de hackers llevó a cabo operaciones de phishing, secuestro de redes wifi de hoteles y usurpación de cuentas de WhatsApp contra objetivos de los sectores gubernamental, militar y diplomático de Ucrania, empleando IA en prácticamente todas las fases de los ataques.

El modus operandi del grupo coincidía con el del actor de amenazas Midnight Blizzard, con sede en Rusia, al que el gobierno de Estados Unidos ha vinculado anteriormente con el SVR, el servicio de inteligencia exterior ruso.

Al parecer, el grupo utilizó inteligencia artificial para crear un sistema que detectaba automáticamente cuándo su malware era identificado por los mecanismos de seguridad y reescribía el código hasta lograr evadir la detección.

Anthropic informó asimismo de que detectó y bloqueó actividades vinculadas a afiliados del colectivo ShinyHunters —actualmente una de las organizaciones de ciberdelincuencia más prolíficas—, grupo relacionado con ataques a grandes empresas de todo el mundo.

Laboratorios chinos de inteligencia artificial ejecutan ataques para extraer las capacidades de Claude

Anthropic informó que había neutralizado ataques provenientes de siete laboratorios con sede en China —entre ellos Alibaba, Moonshot, DeepSeek y Xiaomi— durante el periodo que abarca el informe.

Operadores vinculados a Alibaba llevaron a cabo lo que Anthropic calificó como el mayor ataque de “destilación ilícita”, cuyo objetivo presunto era extraer las capacidades de los modelos Claude para utilizarlas en la mejora de los modelos Qwen de la empresa tecnológica china.

Anthropic señaló haber registrado más de 151 millones de interacciones atribuidas a Alibaba entre mayo y julio de 2026, alcanzando un pico de casi 3 millones diarios provenientes de más de 3,500 cuentas calificadas como fraudulentas.

La destilación es el proceso de entrenar modelos de IA más pequeños utilizando los resultados generados por modelos más grandes y costosos, con el fin de reducir los gastos de entrenamiento de una nueva herramienta de IA.

En otro caso de uso indebido de su tecnología, Anthropic afirmó que Moonshot —creadora del chatbot Kimi— y DeepSeek presuntamente canalizaron conversaciones reales de clientes (que en ocasiones contenían información confidencial) a través de Claude y utilizaron las respuestas obtenidas como datos de entrenamiento.

El Ministerio de Asuntos Exteriores de China declaró desconocer el informe de Anthropic y reiteró la postura del gobierno de que la IA debe desarrollarse para fines beneficiosos, oponiéndose a la tergiversación de hechos y a las campañas de desprestigio contra el país.

Con información de Reuters

Este artículo fue publicado originalmente por Forbes MX

Le puede interesar también: Trump desestima los temores sobre la IA y afirma que derrotar a China es su prioridad