ChatGPT y Roblox quedan bajo máxima vigilancia en la UE

La Comisión Europea incorporó por primera vez a un chatbot de inteligencia artificial y a un videojuego a la categoría de servicios digitales de “muy gran tamaño”.

ChatGPT, de OpenAI, y Roblox superaron el umbral de 45 millones de usuarios mensuales en la Unión Europea (UE) y quedaron sujetos al nivel más estricto de vigilancia previsto por la Ley de Servicios Digitales (DSA).

Reddit también fue incluido este lunes en la misma categoría. Con estas tres incorporaciones, la lista de servicios sometidos al régimen reforzado de Bruselas llega a 28 plataformas.

Las cifras reportadas por las propias compañías a la Comisión Europea muestran la dimensión de sus servicios en el bloque. ChatGPT registró un promedio de 159.1 millones de usuarios mensuales en la UE, Reddit alcanzó 57.2 millones y Roblox, 48 millones.

La DSA, vigente desde 2022, establece obligaciones adicionales para las plataformas consideradas de “muy gran tamaño”.

Entre ellas se encuentra la evaluación y reducción anual de los riesgos sistémicos asociados con sus algoritmos, además de auditorías independientes y acceso a información para investigadores externos designados por Bruselas.

Las empresas también deberán contar con mecanismos para responder ante posibles crisis.

Menores, contenido ilegal y algoritmos bajo la lupa

La normativa contempla riesgos relacionados con la difusión de contenido ilegal, los derechos fundamentales, el discurso cívico, los procesos electorales y la seguridad pública.

También incluye aspectos como la violencia de género, la salud pública, la protección de menores y los posibles efectos de las plataformas sobre el bienestar físico y mental de los usuarios.

Las nuevas obligaciones se suman a las reglas generales de la DSA, que exigen mecanismos internos para presentar quejas, sistemas de resolución de disputas y atención prioritaria a los llamados “trusted flaggers”, usuarios reconocidos para reportar contenido ilegal.

La legislación también establece mayor transparencia sobre la publicidad, opciones de control sobre los sistemas de recomendación, la prohibición de dirigir anuncios a menores o utilizar datos sensibles con fines publicitarios, así como restricciones a los llamados “patrones oscuros”, diseños de interfaz que pueden inducir a los usuarios a tomar decisiones que no habrían elegido de manera libre.

ChatGPT y Roblox llegan con problemas legales

La decisión europea ocurre mientras ambas plataformas enfrentan cuestionamientos legales en Estados Unidos.

Roblox está bajo presión por asuntos relacionados con la explotación infantil, mientras que ChatGPT afronta demandas y acusaciones que lo señalan por presuntamente contribuir a la planificación de tiroteos, generar adicción entre menores y afectar el pensamiento crítico de sus usuarios.

La clasificación europea no determina la responsabilidad de las compañías en esos casos, pero sí coloca a sus servicios bajo una vigilancia mucho más amplia en el mercado comunitario.

Bruselas supervisará a ChatGPT y Reddit junto con el regulador de medios de Irlanda, mientras que Roblox será supervisado en coordinación con la Autoridad de Consumidores y Mercados de Países Bajos.

Las tres plataformas tienen hasta finales de noviembre, cuatro meses después de recibir la notificación, para cumplir con las nuevas obligaciones.

La aplicación de la DSA se ha convertido también en un punto de tensión entre la UE y Estados Unidos.

Por su parte, la administración del presidente Donald Trump sostiene que tanto la Ley de Servicios Digitales como la Ley de Mercados Digitales discriminan contra las grandes empresas tecnológicas estadounidenses y ha amenazado con responder mediante aranceles y restricciones contra compañías europeas.

La Comisión Europea sostiene, en cambio, que sus normas se aplican independientemente del país de origen o del propietario de una empresa.

Como argumento, Bruselas destaca que sus sanciones recientes también han alcanzado a compañías como AliExpress, Temu y TikTok.