La semana pasada, Google se vio obligada a suspender la capacidad del servicio de inteligencia artificial (IA) Gemini de generar imágenes de personas después de que generara resultados engañosos e históricamente inexactos.
El martes, el CEO de Google, Sundar Pichai, abordó la controversia en torno a la generación de imágenes engañosas e históricamente inexactas por parte de su servicio de IA Gemini, en una nota interna que calificaba el problema como “completamente inaceptable”, una semana después de que la empresa detuviera su capacidad para generar imágenes de personas.
Hechos clave:
- En una nota interna, reportada inicialmente por Semafor, Pichai escribió que era consciente de que algunas de las respuestas de Gemini “han ofendido a nuestros usuarios y han mostrado sesgos”, y añadió: “Para ser claros, eso es completamente inaceptable y nos equivocamos”.
- Pichai dijo que los equipos están “trabajando sin descanso para abordar estos problemas” y que la compañía ha visto una “mejora sustancial”, sin entrar en más detalles.
- La nota del CEO entonces prometía un “conjunto claro de acciones” para resolver el problema, incluyendo cambios estructurales, lineamientos actualizados de productos, recomendaciones técnicas, mejores evaluaciones y “red teaming” (un proceso de simulación de comportamientos dañinos para detectar vulnerabilidades).
- La nota de Pichai también señaló que la compañía seguirá adelante con su plan de trabajo en IA y “se basará en los lanzamientos de productos y anuncios técnicos” realizados en las últimas semanas.
Cita crucial:
Abordando las preocupaciones sobre el sesgo en el modelo de IA de Gemini, Pichai escribió: “Siempre hemos buscado ofrecer a los usuarios información útil, precisa y sin sesgos en nuestros productos. Por eso la gente confía en ellos. Este debe ser nuestro enfoque para todos nuestros productos, incluidas las herramientas emergentes de IA”.
La cifra:
3,58%. Esa es la cantidad en la que ha caído el valor de las acciones de Google desde finales de la semana pasada, mientras la compañía luchaba por lidiar con las consecuencias. La ola de ventas eliminó 90.000 millones de dólares de la capitalización de mercado de la compañía el lunes, antes de que las acciones se recuperaran ligeramente en los días siguientes para cerrar a 140,10 dólares por acción.
Antecedentes clave:
Google lanzó ampliamente Gemini a principios de este mes, reemplazando a su anterior chatbot con tecnología de IA, Bard. Construido sobre los últimos modelos de IA de la compañía, Gemini se promocionó como un competidor de las ofertas de Microsoft y OpenAI como CoPilot, ChatGPT y DALL-E, y otras herramientas de IA generativa como Midjourney y Stable Diffusion de Stability AI. La controversia en torno a la herramienta de generación de imágenes de Gemini surgió la semana pasada después de que los usuarios descubrieron que podían generar imágenes históricamente inexactas como vikingos negros, soldados nazis de diversas razas y una papa femenina. El multimillonario Elon Musk, que está construyendo xAI como competidor de Gemini, atacó el servicio de Google, calificándolo de “woke” y “racista”. Otros medios, como The Verge, señalaron las inexactitudes de Gemini, y señalaron que una solicitud de “senador estadounidense del siglo XIX” generó imágenes de una mujer negra, a pesar de que la primera mujer negra fue elegida al Senado de los Estados Unidos en 1992. Google detuvo el servicio de generar imágenes de personas después de que la controversia se disparara y dijo que la compañía “ajustaría” aún más a Gemini para ofrecer contextos históricos más precisos.