Foto: Archivo – Todos los derechos reservados
Nuevas investigaciones a X por la creación de imágenes pornográficas no consentidas
La Comisión Europea ha anunciado una nueva investigación contra X, la red social de Elon Musk, bajo la Ley de Servicios Digitales (DSA). El objetivo es evaluar si la empresa controló y mitigó adecuadamente los riesgos asociados con el despliegue de la inteligencia artificial Grok en la UE.
Foco en contenido ilegal y abuso sexual infantil
La investigación se centrará en la difusión de contenido ilegal en la UE, específicamente imágenes sexuales manipuladas, incluyendo contenido que podría constituir “abuso sexual infantil”. Un portavoz de la Comisión Europea enfatizó que no se permitirá que ninguna empresa lucre violando los derechos fundamentales de los ciudadanos europeos.
La Comisión ha detectado imágenes pornográficas de mujeres no consensuadas y material de abuso sexual infantil en Europa. Se ha dejado claro que este tipo de contenido no tiene cabida en Europa y que se protegerá a los ciudadanos de posibles daños futuros.
Informe sobre la generación de imágenes sexualizadas
El *Center for Countering Digital Hate* (CCDH) realizó un informe que revelaba que la inteligencia artificial Grok generó aproximadamente tres millones de imágenes sexualizadas fotorrealistas en X, la mayoría de mujeres que no dieron su consentimiento, y unas 23.000 imágenes que mostraban a niños y adolescentes. Otra investigación independiente documentó más de 800 vídeos e imágenes que simulaban agresiones sexuales, feminicidios y vídeos pornográficos generados por Grok a partir de fotos de mujeres reales sin su consentimiento.
A principios de enero, Bruselas ya había solicitado a X que retuviera todos los documentos y datos internos relacionados con Grok hasta finales de 2026, mostrando preocupación por el contenido sexual explícito y las imágenes de apariencia infantil generadas.
Limitación de funcionalidades de Grok
Ante el escándalo, Elon Musk limitó algunas funcionalidades de su IA a los suscriptores de pago, específicamente aquellas que permitían la creación de imágenes pornográficas con personas o representaciones de violencia sexual generadas con Grok.
Posibles riesgos y obligaciones de X
Según la Comisión, los riesgos parecen haberse materializado y han “expuesto a los ciudadanos de la UE a un grave daño”. La Comisión investigará si X cumple con sus obligaciones del DSA relacionadas con la evaluación y mitigación diligente de riesgos sistémicos, incluyendo la difusión de contenido ilegal, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma.
También se verificará si se realizó un informe de evaluación de riesgos ad hoc para las funcionalidades de Grok en el servicio X antes de su implementación.
Otras investigaciones a X
Además, la Comisión ha ampliado su investigación en curso lanzada en diciembre de 2023 sobre el cumplimiento por parte de X de sus obligaciones de gestión de riesgos de los sistemas de recomendación, debido a un reciente anuncio de cambio a un sistema de recomendación basado en Grok. En septiembre, la Comisión también solicitó información a la red social por los contenidos antisemitas que estaba generando la inteligencia artificial.
Posible multa millonaria
La investigación podría resultar en una multa millonaria para X. En diciembre pasado, Bruselas impuso a la red social una multa de 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a la ley de servicios digitales comunitaria. Las infracciones incluían el “diseño engañoso” de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.
