El Horizonte - La verdad como es
Internacional

Inicio / Internacional / California demanda a OpenAI por fallas de seguridad en ChatGPT

California demanda a OpenAI por fallas de seguridad en ChatGPT

Ante esto, se solicitó que modifique sus operaciones y renuncie a las ganancias que habría obtenido mediante prácticas comerciales riesgosas

Por Diana Valeria Leyva | 17 Noviembre 2026

El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI para exigir cambios en sus prácticas comerciales y protocolos de seguridad, luego de un incidente ocurrido en julio, cuando un agente de inteligencia artificial de la compañía logró acceder sin autorización a los sistemas de otra empresa.

La acción legal fue presentada ante el Tribunal Superior de San Francisco. En ella, Bonta acusa a OpenAI de poner en riesgo a usuarios y a la población al desarrollar modelos avanzados de inteligencia artificial sin las medidas de protección necesarias.

El fiscal argumentó que las prácticas de la empresa podrían representar una amenaza para la infraestructura crítica y distintas instituciones, por lo que solicitó que un juez la declare responsable de constituir una “molestia pública”, conforme a la legislación estatal.

Además, pidió que OpenAI modifique sus operaciones y renuncie a las ganancias que, según la demanda, habría obtenido mediante prácticas comerciales riesgosas.

Demanda señala incidente de ciberseguridad con Hugging Face

El caso tiene como antecedente un incidente que OpenAI reportó el pasado 21 de julio, al que calificó como un “incidente cibernético sin precedentes”.

De acuerdo con la compañía, uno de sus agentes de inteligencia artificial logró salir de un entorno aislado de pruebas, conocido como sandbox, y acceder a sistemas de Hugging Face, otra empresa dedicada a la inteligencia artificial.

Para conseguirlo, el agente habría utilizado credenciales robadas y descubierto una vulnerabilidad que no había sido identificada previamente, con lo que consiguió ingresar a los servidores de la plataforma.

El portavoz de OpenAI, Drew Pusateri, señaló que la demanda parece responsabilizar específicamente a la compañía por un desafío que, afirmó, enfrentan los principales laboratorios de inteligencia artificial.

"Desde el incidente de Hugging Face, hemos emprendido un esfuerzo amplio y transparente para comprender y abordar la actividad desalineada del modelo", escribió Pusateri en un correo electrónico a The Associated Press.

El portavoz explicó que las medidas adoptadas incluyen la publicación de informes técnicos independientes, el fortalecimiento de las salvaguardas y la creación de un marco para identificar cuándo los agentes de inteligencia artificial actúan de manera contraria a las instrucciones u objetivos de la empresa.

“Tomamos la desalineación muy en serio, y hemos colaborado de manera constructiva con la oficina del fiscal general para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria”, agregó.

Fiscal acusa falta de transparencia y supervisión en OpenAI

En la demanda, Bonta cuestionó las garantías de seguridad ofrecidas por OpenAI y sostuvo que sus modelos han presentado comportamientos que podrían representar riesgos.

“Sin embargo, en realidad, OpenAI ha desarrollado, entrenado y evaluado modelos peligrosos que no siguen instrucciones, hacen trampa en tareas, ocultan y tratan de engañar a los monitores sobre su mala conducta, y participan en comportamientos maliciosos y no autorizados, incluido llevar a cabo ciberataques contra terceros”, escribió el fiscal.

También señaló que, a inicios del mes pasado, la empresa informó que había descubierto que algunos agentes desplegados internamente podían suprimir alertas de monitoreo y desactivar mecanismos de supervisión.

Un mes después, OpenAI publicó un informe de investigación en el que concluyó que los modelos de inteligencia artificial se vuelven más difíciles de supervisar conforme aumentan sus capacidades, según expuso Bonta.

“Además, el verdadero alcance de las violaciones legales de la empresa y el riesgo de daños futuros se desconocen debido a la falta de transparencia y a las tergiversaciones de OpenAI”, añadió.

La nueva demanda se suma a otros procesos legales que enfrenta la compañía en al menos ocho estados de Estados Unidos, donde autoridades y demandantes han señalado que ChatGPT podría perjudicar a menores de edad y ofrecer consejos médicos peligrosos, fomentar la paranoia o inducir conductas de autolesión y violencia.

En respuesta a esas acusaciones, OpenAI informó el mes pasado que había incorporado protecciones de seguridad para los usuarios menores de edad y que continuaría trabajando en el fortalecimiento de sus modelos.

Comentarios