Abre UE investigación formal contra X por su IA Grok

La Comisión Europea inició una investigación formal contra X, la plataforma propiedad de Elon Musk, tras detectar que su chatbot de inteligencia artificial, Grok, fue utilizado para generar y difundir imágenes sexualizadas falsas de personas reales sin su consentimiento.

El caso se enmarca en las normas digitales del bloque comunitario y busca determinar si la empresa tomó medidas suficientes para frenar la circulación de este tipo de contenidos.

Imágenes manipuladas y posibles menores

Según los reguladores, la herramienta permitió crear y editar fotografías en las que se insertaban rostros reales en cuerpos con ropa provocativa o bikinis transparentes.

Algunas de esas imágenes, añadieron, parecían involucrar a menores de edad, lo que encendió alertas en varios países.

La Comisión señaló que estos riesgos “ya se materializaron” y que los ciudadanos europeos quedaron expuestos a “daños graves”, especialmente mujeres y niños.

Revisión bajo la Ley de Servicios Digitales

Los investigadores evaluarán si X cumplió con sus obligaciones previstas en la Ley de Servicios Digitales (DSA, por sus siglas en inglés), que exige a las grandes plataformas prevenir la propagación de material ilegal, incluida la manipulación sexual de imágenes.

Henna Virkkunen, vicepresidenta ejecutiva de la Comisión, mencionó: “Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”.

Añadió que el proceso buscará esclarecer si la empresa respetó los derechos de los usuarios europeos.

La respuesta de X

La compañía recordó en un posicionamiento previo que mantiene una política de “tolerancia cero” frente a la explotación sexual infantil, la desnudez sin consentimiento y el contenido sexual no solicitado.

También informó que restringirá la creación de imágenes de personas con vestimenta reveladora en los países donde ese tipo de material sea ilegal.

Una investigación previa sigue abierta

Además del nuevo expediente, la Comisión Europea confirmó que continúa una pesquisa iniciada en 2023 sobre el cumplimiento general de X con la DSA. Ese proceso ya derivó en una multa de 120 millones de euros en diciembre por fallas en transparencia.

Comentarios