SSI planea adquirir potencia informática y contratar a los mejores talentos para centrarse en la creación de investigación de IA.
Safe Superintelligence (SSI), recientemente cofundada por el ex científico jefe de OpenAI, Ilya Sutskever, recaudó 1,000 millones de dólares en efectivo para ayudar a desarrollar sistemas de inteligencia artificial (IA) seguros que superen con creces las capacidades humanas, dijeron los ejecutivos de la compañía.
SSI, que actualmente tiene 10 empleados, planea utilizar los fondos para adquirir potencia informática y contratar a los mejores talentos. Se centrará en la creación de un pequeño equipo de investigadores e ingenieros de gran confianza dividido entre Palo Alto, California y Tel Aviv, Israel.
La compañía se negó a compartir su valoración, pero fuentes cercanas al asunto afirmaron que estaba valorada en 5,000 millones de dólares. La financiación subraya cómo algunos inversores siguen dispuestos a hacer apuestas descomunales por talentos excepcionales centrados en la investigación fundamental de la IA. Eso es a pesar de una disminución general del interés por financiar este tipo de empresas que pueden no ser rentables durante algún tiempo, y que provocó que varios fundadores de empresas emergentes abandonen sus puestos por gigantes tecnológicos.
Entre los inversores se encontraban las principales firmas de capital de riesgo Andreessen Horowitz, Sequoia Capital, DST Global y SV Angel. NFDG, una sociedad de inversión dirigida por Nat Friedman y el director ejecutivo de SSI, Daniel Gross, también participó.
“Es importante para nosotros estar rodeados de inversores que entiendan, respeten y apoyen nuestra misión, que es dar un paso directo hacia la superinteligencia segura y, en particular, dedicar un par de años a la investigación y el desarrollo de nuestro producto antes de lanzarlo al mercado”, dijo Gross en una entrevista.
La seguridad de la IA, que se refiere a evitar que esta herramienta cause daños, es un tema candente en medio de los temores de que la no autorizada pueda actuar en contra de los intereses de la humanidad o incluso causar la extinción humana.
Un proyecto de ley de California que busca imponer regulaciones de seguridad a las empresas ha dividido a la industria. Se opone a él empresas como OpenAI y Google y cuenta con el apoyo de Anthropic y xAI de Elon Musk.
Sutskever, de 37 años, es uno de los tecnólogos más influyentes en IA. Cofundó SSI en junio con Gross, que anteriormente dirigió iniciativas de IA en Apple, y Daniel Levy, un ex investigador de OpenAI.
Sutskever es el científico jefe y Levy es el científico principal, mientras que Gross es responsable de la potencia informática y la recaudación de fondos.
SSI buscará asociarse con fabricantes de chips
Sutskever dijo que su nueva empresa tenía sentido porque “identificó una montaña que es un poco diferente de lo que estaba trabajando”.
El año pasado, formó parte de la junta directiva de la empresa matriz sin fines de lucro de OpenAI que votó para destituir al director ejecutivo de OpenAI, Sam Altman, debido a una “falla de comunicaciones”.
En cuestión de días, revirtió su decisión y se unió a casi todos los empleados de OpenAI para firmar una carta exigiendo el regreso de Altman y la renuncia de la junta directiva. Pero el giro de los acontecimientos disminuyó su papel en OpenAI. Fue removido de la junta y dejó la empresa en mayo.
Después de la partida de Sutskever, la empresa desmanteló su equipo de “Superalineación”, que trabajaba para garantizar que la IA se mantuviera alineada con los valores humanos para prepararse para un día en que la IA supere la inteligencia humana.
A diferencia de la estructura corporativa poco ortodoxa de OpenAI, implementada por razones de seguridad de la IA pero que hizo posible la destitución de Altman, SSI tiene una estructura con fines de lucro regular.
Actualmente, SSI está muy centrada en contratar personas que encajen con su cultura.
Gross dijo que pasan horas evaluando si los candidatos tienen “buen carácter” y que buscan personas con capacidades extraordinarias en lugar de enfatizar demasiado las credenciales y la experiencia en el campo.
“Una cosa que nos entusiasma es encontrar personas que están interesadas en el trabajo, que no están interesadas en la escena, en la publicidad”, agregó.
SSI dice que planea asociarse con proveedores de la nube y compañías de chips para financiar sus necesidades de potencia informática, pero aún no ha decidido con qué empresas trabajará. Las empresas emergentes de IA a menudo trabajan con empresas como Microsoft y Nvidia para abordar sus necesidades de infraestructura.
Sutskever fue uno de los primeros defensores de la escalabilidad, una hipótesis según la cual los modelos de IA mejorarían en rendimiento dadas grandes cantidades de potencia informática. La idea y su ejecución dieron inicio a una ola de inversiones en IA en chips, centros de datos y energía, sentando las bases para avances de IA generativa como ChatGPT.
Sutskever dijo que abordará la escalabilidad de una manera diferente a la de su antiguo empleador, sin compartir detalles.
“Todo el mundo solo habla de hipótesis de escalabilidad. Todos se olvidan de preguntar, ¿qué estamos escalando?”, dijo.
“Algunas personas pueden trabajar muchas horas y simplemente seguirán el mismo camino más rápido. No es tanto nuestro estilo. Pero si haces algo diferente, entonces se vuelve posible que hagas algo especial”.
Con información de Reuters