Demandan a OpenAI y a su CEO por ocultar riesgos de ChatGPT

El estado de Florida presentó este lunes una demanda contra OpenAI y su director ejecutivo, Sam Altman, al acusarlos de lanzar de forma acelerada ChatGPT al mercado mientras ocultaban presuntos riesgos relacionados con la seguridad de los usuarios.

El fiscal general de Florida, James Uthmeier, aseguró durante una conferencia de prensa que la compañía ignoró advertencias internas y externas sobre posibles peligros asociados al uso de la inteligencia artificial, además de minimizar los riesgos reales del producto.

Acusan riesgos para menores y posibles usos criminales

La demanda civil, presentada ante un tribunal estatal de Florida, menciona diversos casos en los que personas presuntamente utilizaron ChatGPT antes de cometer actos violentos.

Entre ellos se encuentran dos tiroteos ocurridos en universidades del estado, cuyos presuntos responsables habrían consultado al chatbot mientras planeaban sus acciones.

OpenAI respondió mediante un comunicado en el que afirmó que sus sistemas alentaron repetidamente a dichas personas a buscar ayuda profesional y apoyo en el mundo real, además de señalar que la empresa colaboró con las autoridades en ambas investigaciones.

Investigación incluye casos de salud mental

La denuncia también retoma investigaciones relacionadas con la salud mental y el comportamiento de menores de edad.

Entre los ejemplos citados aparece un estudio realizado por la psiquiatra y profesora de Stanford Medicine, Nina Vasan, quien simuló ser una adolescente con problemas psicológicos para evaluar las respuestas de un chatbot de inteligencia artificial.

Según la investigación, cuando la supuesta adolescente expresó que escuchaba voces y pensaba internarse sola en un bosque, la IA respondió con comentarios que la especialista consideró inapropiados para una situación de riesgo emocional.

Vasan advirtió que este tipo de herramientas pueden representar riesgos particulares para los adolescentes debido a que están diseñadas para generar conversaciones con apariencia de cercanía emocional.

Demanda menciona suicidio de un adolescente

Otro de los casos mencionados en la demanda es el de Adam Raine, un joven de 16 años que falleció por suicidio el año pasado tras mantener conversaciones frecuentes con ChatGPT.

Según el documento presentado por el estado, el chatbot habría respondido de forma inadecuada cuando el menor expresó pensamientos suicidas e incluso habría participado en conversaciones relacionadas con la planificación de su muerte.

La demanda sostiene que OpenAI priorizó la velocidad de expansión comercial y las ganancias por encima de la seguridad de los usuarios, además de recopilar datos de menores sin mecanismos suficientes de supervisión parental.

Asimismo, acusa a la empresa de minimizar errores potencialmente peligrosos y de no informar adecuadamente sobre los riesgos asociados al uso prolongado de sistemas de inteligencia artificial.

OpenAI defiende sus medidas de protección

En respuesta, OpenAI aseguró que la protección de menores constituye una de sus principales prioridades y destacó que ha implementado nuevas herramientas de seguridad.

La compañía explicó que cuenta con sistemas de estimación de edad, configuraciones más restrictivas para usuarios jóvenes y herramientas dirigidas a padres de familia para supervisar el uso de la inteligencia artificial.

Las autoridades de Florida argumentan que las acciones de OpenAI podrían constituir violaciones a las leyes estatales que prohíben prácticas comerciales engañosas o desleales, por lo que buscan que la empresa rinda cuentas por los presuntos daños ocasionados a usuarios del estado.

Comentarios