California prohíbe funciones adictivas de redes a menores

El gobernador Gavin Newsom promulgó un paquete de 13 leyes para reforzar la seguridad de niños y adolescentes frente a las redes sociales y la inteligencia artificial, con restricciones específicas para usuarios menores de 16 años.

La nueva legislación prohíbe a las plataformas ofrecer determinadas funciones consideradas adictivas, entre ellas el desplazamiento infinito, la reproducción automática de videos y los feeds personalizados mediante algoritmos.

El paquete también establece nuevas obligaciones para los chatbots de acompañamiento con inteligencia artificial, además de sanciones económicas para las empresas que ocasionen daños demostrables a menores.

Redes sociales deberán limitar funciones adictivas

La principal norma del paquete es la AB 1709, impulsada por el asambleísta demócrata Josh Lowenthal.

Esta legislación prohíbe que las redes sociales proporcionen a menores de 16 años herramientas como el scroll infinito, el autoplay y los feeds personalizados, conocidos popularmente como páginas “Para ti”. Estos contenidos se generan a partir del historial de navegación y del perfil de cada usuario.

De acuerdo con los legisladores, este tipo de mecanismos puede prolongar el tiempo que los usuarios permanecen en las plataformas más allá de su intención inicial.

La ley no establece que los menores deban abandonar las redes sociales. Las compañías podrán cumplir las disposiciones desactivando esas funciones para los usuarios de ese rango de edad o, en su defecto, impidiendo que accedan completamente a sus servicios.

También regularán los chatbots de inteligencia artificial

El paquete incluye la SB 1119, conocida como Ley Adam, que establece reglas para los chatbots de acompañamiento capaces de mantener conversaciones continuas con los usuarios.

Las empresas deberán realizar evaluaciones independientes de riesgo antes de poner sus productos a disposición del público, además de implementar controles parentales y protocolos para situaciones de crisis.

Cuando un chatbot detecte señales de autolesión en un menor, la compañía deberá notificar a sus padres o tutores. También deberán establecerse límites de tiempo de uso, incorporar recursos de salud mental dentro de las interfaces y realizar auditorías independientes de seguridad infantil cada año.

La ley lleva el nombre de Adam Raine, un adolescente californiano que murió por suicidio en 2025 después de utilizar ChatGPT. Su madre, Maria Raine, participó en la firma de la legislación.

Multas de hasta un millón de dólares por menor

Otra de las normas aprobadas, la AB 2, contempla sanciones civiles que pueden alcanzar hasta un millón de dólares por cada niño cuando una plataforma provoque daños demostrables, como ansiedad, depresión u otros perjuicios relacionados con la salud mental.

La indemnización será equivalente al monto mayor entre 5 mil dólares por cada violación, con un límite de un millón de dólares por niño, o tres veces los daños reales acreditados.

El paquete también incluye medidas para ampliar la definición legal de explotación sexual infantil y contemplar imágenes de menores que hayan sido generadas o modificadas mediante inteligencia artificial.

Estas son las 13 leyes del paquete

• AB 1709: restringe funciones adictivas de redes sociales para menores de 16 años.
• SB 1119: establece controles para chatbots de acompañamiento.
• AB 2: contempla sanciones civiles de hasta un millón de dólares por niño.
• SB 1276: amplía la definición de explotación sexual infantil a imágenes alteradas o generadas con IA.
• SB 1128: impide que escuelas exijan a alumnos de jardín de infantes y preescolar llevar dispositivos electrónicos a casa.
• SB 867: prohíbe durante cuatro años fabricar y vender juguetes con chatbots de acompañamiento para menores de 16 años.
• AB 1856: modifica el sistema de señales de verificación de edad de la AB 1043.
• AB 2246: actualiza las obligaciones de diseño seguro para servicios digitales accesibles a menores.
• AB 1946: establece un mecanismo para denunciar material de abuso sexual infantil en plataformas digitales.
• AB 1159: refuerza la protección de información personal de estudiantes en sistemas de IA.
• AB 2071: incorpora bienestar digital a los estándares educativos de informática.
• AB 302: regula el uso de feeds algorítmicos adictivos en comunicaciones escolares.
• AB 2298: actualiza los estándares curriculares de informática con énfasis en bienestar y seguridad digital.

La verificación de edad llegará en 2027

Para aplicar las restricciones de edad, las plataformas deberán utilizar un sistema establecido mediante la AB 1043, que exigirá a los proveedores de sistemas operativos enviar a las aplicaciones una señal indicando el rango de edad del usuario.

Este mecanismo comenzará a operar a partir de enero de 2027 y contempla una exención para sistemas operativos de código abierto.

Newsom defendió la medida al señalar que el objetivo es abordar directamente los mecanismos de diseño y los algoritmos utilizados por las plataformas.

Meta ya había alcanzado un acuerdo con California

La aprobación de las nuevas leyes ocurrió semanas después de que Meta alcanzara un acuerdo con California y otros 28 estados que habían presentado demandas colectivas contra la compañía.

Las acusaciones señalaban que Instagram y Facebook habían sido diseñados deliberadamente para generar comportamientos adictivos entre los menores y que la empresa había engañado a los consumidores sobre la seguridad de sus productos.

Como parte del acuerdo, Meta aceptó pagar hasta 18 mil millones de dólares y realizar modificaciones en sus plataformas destinadas a adolescentes, incluyendo límites diarios de uso y bloqueos automáticos durante la noche.

El acuerdo evitó un juicio federal en California y se convirtió en uno de los casos más relevantes sobre la responsabilidad de las plataformas digitales frente al bienestar infantil.