Inicio / Internacional / Crean la IA… y alertan de sus riesgos; llevan discurso a la ONU
Crean la IA… y alertan de sus riesgos; llevan discurso a la ONU
Anthropic calificó los riesgos derivados de los sistemas más avanzados de IA como el problema de seguridad más importante que enfrenta actualmente el mundo
Por Yvette Serrano | 23 Septiembre 2026
Las mismas compañías que protagonizan una carrera multimillonaria por desarrollar una inteligencia artificial cada vez más poderosa comenzaron a llevar una advertencia hasta uno de los máximos organismos de seguridad del planeta: la tecnología avanza más rápido que los mecanismos creados para controlarla.
Dario Amodei, director ejecutivo de Anthropic, compareció este miércoles ante el Consejo de Seguridad de Naciones Unidas y calificó los riesgos derivados de los sistemas más avanzados de inteligencia artificial como “el problema de seguridad global más importante” que enfrenta actualmente el mundo.
Su mensaje resulta particularmente relevante porque no procede de un crítico externo de la industria, sino del responsable de una de las compañías que compiten directamente por desarrollar los modelos de IA más avanzados.
¿Qué propuso Anthropic ante Naciones Unidas?
Amodei sostuvo que ninguna empresa, gobierno o nación puede enfrentar por sí sola los riesgos asociados con esta tecnología y reclamó acuerdos internacionales que establezcan límites comunes.
Entre sus propuestas está prohibir expresamente el empleo de inteligencia artificial para contribuir al desarrollo o fabricación de armas biológicas, establecer pruebas internacionales para medir las capacidades peligrosas de los modelos y crear mecanismos obligatorios para reportar incidentes capaces de afectar la seguridad mundial.
La discusión llegó al Consejo de Seguridad en momentos en que existe una preocupación creciente por la velocidad con la que los sistemas de IA adquieren nuevas capacidades.
El encuentro fue convocado por Francia, que ocupa la presidencia del Consejo durante septiembre, bajo el tema de “Inteligencia artificial y seguridad internacional”. Además de Amodei participaron Sam Altman, CEO de OpenAI; Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de Naciones Unidas, y Clément Delangue, de Hugging Face.
La paradoja: aceleran el desarrollo y piden controles
La comparecencia dejó también al descubierto una contradicción que acompaña a la industria: las empresas continúan invirtiendo enormes recursos para hacer sus modelos más capaces mientras sus propios directivos reclaman mayores controles sobre esa carrera.
Amodei reiteró ante Naciones Unidas su preocupación de que sistemas futuros puedan llegar a actuar de maneras difíciles de controlar y sostuvo que una mala gestión de la tecnología podría representar incluso un riesgo para la humanidad.
Anthropic, sin embargo, reconoce una distinción importante: las evaluaciones pueden mostrar que un modelo posee determinadas capacidades, pero eso no demuestra por sí mismo que esas capacidades vayan a utilizarse en el mundo real para fabricar armas biológicas. La propia empresa señala que todavía existe incertidumbre sobre ese riesgo.
Ese matiz resulta clave: la advertencia no significa que actualmente una IA pueda fabricar por sí sola un arma biológica ni que exista evidencia de que esto haya ocurrido. El temor se concentra en cuánto podrían facilitar modelos futuros conocimientos, investigación y procesos que hoy requieren especialistas.