Huang se ha manifestado enérgicamente en contra de la presión para aumentar la regulación gubernamental de las empresas de IA y de los esfuerzos por coordinar una desaceleración en el desarrollo de la IA avanzada.

Nvidia lanzó el lunes un nuevo sistema de seguridad que, según afirma, puede evitar que los agentes de IA vulneren sus entornos de prueba y obtengan acceso no autorizado a sistemas externos, apenas unas semanas después de que el multimillonario director ejecutivo del fabricante de chips de IA, Jensen Huang, restara importancia a la alarma sobre las recientes brechas de seguridad y rechazara la necesidad de ralentizar la IA.

DATOS CLAVE

  • En un comunicado, la compañía afirmó que su “Plataforma Abierta de Seguridad de Agentes” es un sistema de referencia diseñado para mejorar la seguridad de la IA tanto durante las pruebas como durante el despliegue de nuevos agentes.
  • El comunicado indicaba que los “recientes incidentes de seguridad” han puesto de manifiesto la necesidad de un sistema de este tipo que permita a las empresas de IA “ejercer un mayor control sobre los agentes que llevan mucho tiempo funcionando”.
  • Aunque el anuncio no especificó ningún incidente en particular, un funcionario de Nvidia declaró a varios medios que esta nueva plataforma podría haber evitado que un agente de OpenAI infringiera los protocolos de prueba en julio y pirateara Hugging Face sin que se le incitara a hacerlo.
  • El sistema de seguridad de dos partes incluye “Nvidia OpenShell”, que establece “límites para los agentes” que se ejecutan en las CPU, y “Sentry”, que se ejecuta en los chips BlueField de la propia compañía y “pone en cuarentena y detiene” cualquier intento de los agentes de IA de salirse de sus límites definidos.
  • El anuncio mencionaba a varias empresas como Microsoft, Palantir, Hugging Face y CrowdStrike como ejemplos de compañías que trabajan con los nuevos sistemas de seguridad de Nvidia, pero no se hacía mención alguna de OpenAI ni de Anthropic.

¿QUÉ HA DICHO HUANG RECIENTEMENTE SOBRE LA SEGURIDAD DE LA IA?

Huang se ha manifestado enérgicamente en contra de la presión para aumentar la regulación gubernamental de las empresas de IA y de los esfuerzos por coordinar una desaceleración en el desarrollo de la IA avanzada. A principios de este mes, declaró ante los asistentes al evento anual Dreamforce de Salesforce que la disyuntiva entre seguridad y velocidad en la IA era una falsa elección. “Sin duda, se podrían tener ambas cosas a la vez”. Luego argumentó: “No necesitamos nuevas leyes, no necesitamos nuevas regulaciones”. Huang también se puso del lado de Trump cuando el presidente llamó al director ejecutivo de Nvidia en directo al escenario durante la Cumbre All-In en San Francisco y desestimó los temores sobre la seguridad de la IA como un engaño. En la llamada, Trump argumentó que las personas que se oponen a la IA y a la construcción de centros de datos estaban “haciéndole el juego” a los escépticos y a China, y declaró: “No vamos a permitir que eso suceda”. Huang le dijo al presidente: “Tiene razón. No vamos a permitir que eso suceda, señor”. Sobre los temores de que la IA avanzada pudiera causar la extinción humana para finales de la década, Huang declaró a CBS News que había un “0% de posibilidades” de que eso ocurriera.

VALORACIÓN DE FORBES

Según las estimaciones de Forbes, Huang tiene un patrimonio neto de US$194.900 millones, lo que lo convierte en la séptima persona más rica del mundo. Su empresa, Nvidia, es la más valiosa del mundo, con una capitalización de mercado de US$5,42 billones.

Este artículo fue publicado originalmente por Forbes US

Lea también: El pregrado todavía paga en Colombia, pero los universitarios ganan menos que hace 15 años