En un comunicado emitido en las redes sociales, OpenAI dijo que algunos usuarios de Sora habían 'generado representaciones irrespetuosas de la imagen del Dr. King'.
OpenAI anunció el jueves que estaba pausando su herramienta de inteligencia artificial Sora para que no generara videos que mostraban la imagen de Martin Luther King Jr. para cumplir con una solicitud de los herederos del líder de los derechos civiles, en medio de crecientes preocupaciones sobre el controvertido contenido generado por IA con figuras públicas fallecidas.
Datos clave
En un comunicado emitido en las redes sociales, OpenAI dijo que algunos usuarios de Sora habían “generado representaciones irrespetuosas de la imagen del Dr. King”.
La compañía dijo que está trabajando con los herederos de King en el tema y, a pedido de ellos, ha pausado esas generaciones de videos de IA de él.
OpenAI señaló que también está fortaleciendo sus “barandillas para figuras históricas”, pero no está claro si esto significa que puede volver a habilitar generaciones de video de la figura de los derechos civiles en una fecha futura, con algunas restricciones.
La compañía dijo que cree que hay “fuertes intereses en la libertad de expresión en la representación de figuras históricas”, pero reconoció que “las figuras públicas y sus familias deberían tener control sobre cómo se usa su imagen”.
La declaración agregó que “los representantes autorizados o los propietarios de fincas pueden solicitar que su imagen no se use en los cameos de Sora”.
Esto significa que las figuras públicas y sus familias deberán optar por no aparecer en los clips de Sora, en lugar de deshabilitar dichas generaciones de forma predeterminada.
¿Qué había dicho la familia de King?
Si bien los herederos de King y su familia no han comentado sobre el último movimiento de OpenAI, la hija del ícono de los derechos civiles, Bernice King, publicó sobre esto en las redes sociales la semana pasada. En la publicación, King compartió un titular de un artículo de Variety sobre la hija del actor fallecido Robin Williams, instando a los fanáticos a dejar de enviarle videos de su padre. King escribió: “Estoy de acuerdo con mi padre. Por favor, detente”. Compartir una captura de pantalla de uno de esos videos generados.
Antecedentes clave
La última versión de Sora se lanzó a los usuarios de OpenAI en los EU y Canadá a fines del mes pasado y desde entonces se ha convertido en la aplicación mejor clasificada en la App Store de Apple. La nueva versión de Sora utiliza un modelo más potente y ha integrado funciones similares a las de las redes sociales. Sin embargo, el uso de la aplicación por parte de algunos usuarios para representar celebridades y figuras públicas fallecidas ha provocado controversia y rechazo por parte de los miembros de la familia. La semana pasada, el Washington Post informó que algunos usuarios habían generado videos de Sora que mostraban a figuras públicas fallecidas como Malcolm X haciendo bromas groseras, Kobe Bryant volando en un helicóptero, como el que se estrelló y lo llevó a la muerte, y John F. Kennedy haciendo bromas sobre el asesinato del activista de derecha Charlie Kirk. El informe también señaló que hubo clips generados por IA de King haciendo “ruidos de mono” durante su histórico discurso “Tengo un sueño”.
¿Qué han dicho otros familiares de figuras fallecidas?
Zelda Williams, actriz e hija de Robin Williams, instó a los fanáticos en Instagram a dejar de enviarle videos generados por IA de su padre fallecido. “Por favor, deja de enviarme videos de IA de papá. Deja de creer que quiero verlo o que lo entenderé, no lo hago y no lo haré. Si solo estás tratando de trolearme, he visto cosas mucho peores, me restringiré y seguiré adelante. Pero por favor, si tienes algo de decencia, deja de hacerle esto a él y a mí, incluso a todos, y punto. Es una tontería, es una pérdida de tiempo y energía, y créanme, NO es lo que él querría”. La hija de Malcolm X, Ilyasah Shabazz, le dijo al Washington Post: “Es profundamente irrespetuoso e hiriente ver la imagen de mi padre utilizada de una manera tan arrogante e insensible cuando dedicó su vida a la verdad”.
¿Qué ha dicho Openai sobre las restricciones de Sora?
En una publicación en X a principios de este mes, el jefe de OpenAI, Sora Bill Peebles, dijo que la compañía estaba implementando algunas restricciones en la función “Cameos”, que permite a los usuarios crear representaciones de sí mismos o de otros. Peebles escribió: “Hemos escuchado de muchas personas que quieren que sus cameos estén disponibles para todos, pero conservan el control sobre cómo se usan”. Dijo que las personas pueden limitar la forma en que se puede usar su imagen en tales cameos, incluidas opciones como “no me pongas en videos que involucren comentarios políticos” o “no me dejes decir esta palabra”. Con respecto al uso de personajes con derechos de autor, OpenAI permitirá a los titulares de derechos de autor presentar solicitudes específicas de personajes que no desean que aparezcan en Sora.