X anunció nuevas restricciones a Grok tras las críticas por la generación de imágenes sexualizadas no consensuadas.
X de Elon Musk anunció el miércoles que estaba restringiendo la herramienta de generación de imágenes de su chatbot de inteligencia artificial Grok para que no cree imágenes de personas reales con ropa reveladora, varias semanas después de que fuera criticado por crear imágenes sexualizadas de niños y desnudez no consensuada.
Datos clave
- En una publicación en la cuenta oficial de seguridad de X , la plataforma dijo que ha “implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”.
- La compañía dijo que esta restricción se aplicará a todos los usuarios de Grok, incluidos los suscriptores de pago.
- La compañía también dijo que estaba restringiendo “la creación de imágenes y la capacidad de editar imágenes” a través de la cuenta Grok solo a los suscriptores pagos.
- Sin embargo, la capacidad de generar imágenes seguía estando accesible para los usuarios gratuitos en el sitio web de Grok en el momento de la publicación.
- La compañía también agregó que estaba bloqueando geográficamente a todos los usuarios para que no puedan generar “imágenes de personas reales en bikini, ropa interior y prendas similares a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal”.
- El comunicado no especificó qué países se verían afectados por el bloqueo geográfico.
¿Grok ha dejado de generar y editar imágenes sexualizadas?
Una búsqueda en la biografía reciente de Grok mostró al menos un caso en el que se adhirió a la petición de un usuario de alterar una imagen del primer ministro británico Keir Starmer, reemplazando su traje por un bikini. The Verge también informó que seguía siendo “extremadamente fácil desnudar a mujeres y editarlas en poses sexualizadas usando las aplicaciones móviles o sitios web de X y Grok”. Una reportera del medio, con sede en el Reino Unido, señaló que no se le había prohibido usar la aplicación ni crear “deepfakes sexualizados de sí misma”.
¿Qué ha dicho Elon Musk?
El miércoles por la mañana, Elon Musk, propietario de X, pareció cuestionar la veracidad de los informes que sugerían que X generaba material de abuso sexual infantil (CSAM) y escribió que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente, ninguna”. Añadió: “Obviamente, Grok no genera imágenes espontáneamente, solo lo hace según las solicitudes de los usuarios. Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado”. El multimillonario pareció entonces culpar del problema a los usuarios de la plataforma, afirmando: “Puede haber ocasiones en que el hackeo hostil de los avisos de Grok provoque algo inesperado. Si eso ocurre, solucionamos el error de inmediato”.
Cita crucial
El miércoles, el primer ministro británico declaró que X está trabajando para cumplir con la ley británica bloqueando la generación de imágenes sexuales no consensuadas. «Le hemos dejado claro a X que estas imágenes son ilegales, reprensibles y deben abordarse. Me han informado de que X está actuando para garantizar el pleno cumplimiento de la ley del Reino Unido. De ser así, lo aplaudo, pero no vamos a ceder; deben actuar».
¿A qué hay que prestar atención?
El miércoles por la mañana, el fiscal general de California, Rob Bonta, anunció que su oficina había abierto una investigación contra X por la “proliferación de material sexualmente explícito no consensuado producido con Grok”. El anuncio acusó a xAI de Musk de “facilitar la producción a gran escala de imágenes íntimas no consensuadas y deepfake que se utilizan para acosar a mujeres y niñas en internet”. En un comunicado, Bonta afirmó que su oficina había recibido una avalancha de denuncias sobre este asunto y que la investigación determinará si xAI violó la ley y de qué manera.
Este artículo fue publicado originalmente por Forbes US.
Lea también: RFK Jr. sobre la dieta de Trump: ‘No sé cómo está vivo’