Las extraordinarias advertencias de seguridad de Anthropic llegan semanas después de que un ex investigador de la compañía advirtiera sobre la posibilidad de que la IA provocara la extinción humana para finales de la década.

Según varios informes, el folleto de la oferta pública inicial de Anthropic advertía a los inversores de que sus modelos de IA podrían suponer “riesgos catastróficos o existenciales para la humanidad”, lo que pone de manifiesto la continua preocupación de la empresa por los riesgos de seguridad vinculados a sus modelos de IA mientras se prepara para una salida a bolsa muy esperada que podría elevar su valoración potencial a más de 2 billones de dólares.

Datos clave

  • Según Reuters , que fue el primer medio en informar sobre el folleto informativo, el documento dedica casi 80 de sus 261 páginas a posibles factores de riesgo, mientras que solo 48 páginas describen su modelo de negocio.
  • Entre los factores de riesgo destacados se incluyen los modelos de IA de Anthropic que exhiben “comportamientos de autopreservación”, la resistencia a los intentos de cierre, la manipulación y el chantaje.
  • La empresa también advirtió que el desarrollo de modelos altamente avanzados y la ampliación de sus casos de uso podrían aumentar aún más el riesgo de daños.
  • El Financial Times, que corroboró el informe de Reuters, señaló que Anthropic también destacó otros riesgos financieros, entre ellos que casi una cuarta parte de sus ingresos del año pasado procedían de tan solo dos clientes.
  • Las extraordinarias advertencias de seguridad de Anthropic llegan semanas después de que un ex investigador de la compañía advirtiera sobre la posibilidad de que la IA provocara la extinción humana para finales de la década, y de que su director ejecutivo, Dario Amodei, publicara un ensayo instando a las principales empresas de IA a coordinarse para reducir la velocidad.

¿Qué dice el documento sobre las finanzas de Anthropic?

El folleto informativo señala que los ingresos de Anthropic crecieron hasta alcanzar los US$4.600 millones en 2025, un aumento de doce veces con respecto al año anterior. A pesar de ello, la compañía registró una pérdida operativa de más de US $8.000 millones. La pérdida neta de la compañía en 2025 fue de US $42.000 millones, y planea invertir otros US $518.000 millones en obligaciones de nube, computación e infraestructura en los próximos años para respaldar su crecimiento. Según el Financial Times, los inversores de la compañía creen que Anthropic puede cotizar con una valoración de 2 billones de dólares en su debut en bolsa.

¿Qué sabemos sobre las recientes rondas de financiación de Anthropic?

En mayo, Anthropic recaudó US $65.000 millones en su ronda de financiación “Serie H”, con una valoración posterior a la inversión de US $965.000 millones. La ronda fue liderada por Altimeter Capital, Dragoneer, Greenoaks y Sequoia Capital. El mes pasado, Bloomberg informó que Anthropic comunicó a sus inversores que estaba en camino de generar más de US $65.000 millones en ingresos anualizados. Según el Financial Times, los inversores de Anthropic creen que sus ingresos anualizados podrían alcanzar entre US $100.000 y US $120.000 millones a finales de 2026. Esta cifra anualizada proyecta los ingresos de un año completo basándose en los ingresos obtenidos durante un período más corto.

¿Qué hay de la salida a bolsa de OpenAI?

Si bien Anthropic tiene previsto su debut en bolsa este año, no se espera que su principal rival, OpenAI, haga lo mismo en 2026. A principios de este mes, el director ejecutivo de OpenAI, Sam Altman, declaró a Fortune que la empresa no saldrá a bolsa este año, alegando preocupaciones sobre la seguridad de la IA. Altman afirmó que este año no era un momento adecuado para salir a bolsa, ya que la empresa podría tener que tomar decisiones que no beneficien a los accionistas, como pausar el desarrollo de modelos avanzados para lograr mayor seguridad y alineación. El lunes, OpenAI canceló el lanzamiento de su último modelo GPT-6.1 Astra tras detectarse problemas de seguridad durante las pruebas internas.

Este artículo se publicó originalmente en Forbes US.

Lea también: Los conciertos de BTS se toman Bogotá: rutas, horarios, canciones y más noticias