La fiscalía indicó que citó a Musk y a la exdirectora ejecutiva de X, Linda Yaccarino, para que comparezcan a "entrevistas voluntarias" el 20 de abril, "en su calidad de administradores de facto y de iure de la Plataforma X al momento de los hechos".
La Fiscalía de París dijo que su unidad de delitos cibernéticos registró la oficina francesa de X el martes, mientras que la plataforma de redes sociales y su chatbot de inteligencia artificial Grok enfrentan un creciente escrutinio internacional por la creación y difusión de deepfakes sexualizados e imágenes de desnudos no consensuadas.
Datos clave
En un comunicado , la fiscalía indicó que la unidad cibernética de la Gendarmería francesa y Europol participaron en la búsqueda en las instalaciones de X.
La agencia dijo que la redada fue parte de una investigación abierta sobre X en enero de 2025, luego de recibir quejas sobre el algoritmo de la plataforma.
La declaración agregó que desde entonces la investigación se ha ampliado para cubrir quejas sobre el chatbot de inteligencia artificial Grok de X y su “difusión de contenido de negación del Holocausto y deepfakes sexualmente explícitos”.
El fiscal señaló que la investigación también abarca otros delitos penales, incluida la “posesión y distribución organizada” de material de abuso sexual infantil, algo de lo que Grok ha sido acusado .
X y su propietario, Elon Musk, no han hecho comentarios sobre la redada al momento de la publicación.
A qué prestar atención
La fiscalía indicó que citó a Musk y a la exdirectora ejecutiva de X, Linda Yaccarino, para que comparezcan a “entrevistas voluntarias” el 20 de abril, “en su calidad de administradores de facto y de iure de la Plataforma X al momento de los hechos”. Los empleados de X también recibieron citaciones durante la semana del 20 al 24 de abril “para ser escuchados como testigos”. El fiscal indicó que las entrevistas voluntarias tienen como objetivo permitir que Musk y Yaccarino presenten su versión de los hechos y cualquier posible medida de cumplimiento que planeen implementar para abordar las quejas.
Antecedentes clave
La fiscalía de París anunció por primera vez que estaba investigando deepfakes sexualmente explícitos generados por Grok a principios del mes pasado. La investigación se abrió después de que dos legisladores franceses plantearan el problema. La semana pasada, la Unión Europea también inició una investigación formal sobre X y Grok por la creación de deepfakes sexualizados no consensuados. El bloque afirmó que X expuso a ciudadanos de la UE a “daños graves” y que la investigación “evaluará si la empresa evaluó y mitigó adecuadamente los riesgos asociados con la implementación de las funcionalidades de Grok en X en la UE”. La investigación se lleva a cabo al amparo de la Ley de Servicios Digitales de la UE, que permite a los reguladores del bloque detectar empresas infractoras hasta el 6 % de su facturación anual global.
¿Qué sabemos sobre las investigaciones sobre el contenido de Grok en Estados Unidos?
El mes pasado, el fiscal general de California, Rob Bonta, anunció que su oficina había abierto una investigación contra X por la “proliferación de material sexualmente explícito no consensuado producido con Grok”. El comunicado acusó a xAI, la empresa de inteligencia artificial de Musk, de “facilitar la producción a gran escala de imágenes íntimas no consensuadas y deepfake que se utilizan para acosar a mujeres y niñas en internet”. Bonta señaló que su oficina había recibido una avalancha de denuncias sobre este asunto y que la investigación determinará si xAI violó la ley y de qué manera.
Tangente
Ante las crecientes críticas e investigaciones gubernamentales en todo el mundo, X anunció el mes pasado que restringiría a Grok la generación de imágenes alteradas por IA de personas reales con ropa reveladora. La cuenta oficial de seguridad de X afirmó haber “implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”. La compañía también indicó que estaba bloqueando geográficamente a todos los usuarios para que no generaran “imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal”. Sin embargo, Musk ha cuestionado la veracidad de los informes que indican que Grok genera imágenes sexualizadas de niños, tuiteando que “no tiene conocimiento de ninguna imagen de menores de edad desnuda generada por Grok. Literalmente cero”. Añadió: “Obviamente, Grok no genera imágenes espontáneamente, solo lo hace según las solicitudes de los usuarios. Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado”.