Inicio / Finanzas / Tecnológicas buscan crear organismo para autorregular IA
Tecnológicas buscan crear organismo para autorregular IA
La propuesta contempla que este organismo pueda establecer medidas de seguridad comunes para un sector cuyo avance acelerado eleva riesgos económicos
Por Bianca Cortés | 14 Septiembre 2026
Las principales empresas de inteligencia artificial buscan poner límites a la carrera tecnológica que ellas mismas han acelerado, con la propuesta de crear un organismo independiente que establezca y supervise estándares de seguridad para el desarrollo de sistemas avanzados de IA.
La iniciativa es analizada por Anthropic, OpenAI y Google, que estudian un esquema de autorregulación similar al de otras industrias.
La propuesta contempla que este organismo pueda establecer medidas de seguridad comunes para un sector cuyo avance acelerado también ha elevado los riesgos económicos y tecnológicos asociados con sistemas que puedan actuar fuera del control humano.
Anthropic propusiera reducir ritmo de desarrollo de modelos avanzados
El planteamiento cobró fuerza después de que Dario Amodei, CEO de Anthropic, propusiera reducir el ritmo de desarrollo de los modelos más avanzados y acompañar su evolución con medidas de seguridad y evaluación.
Su llamado recibió el respaldo de Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de la unidad de IA de Google.
“El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento”, señaló Altman.
En este contexto, Microsoft ya dio un paso concreto al presentar un borrador de código de conducta para sus propios sistemas de IA, elaborado durante cinco o seis meses.
El documento plantea que sus modelos no deben resistirse a ser corregidos o apagados y que deben comunicarse de manera comprensible para las personas.
Además, la compañía abrió una consulta pública de seis semanas antes de utilizar estas reglas para entrenar futuros modelos.
Microsoft AI califica código como especie de 'constitución'
Mustafa Suleyman, CEO de Microsoft AI, calificó el código como una especie de “constitución” para los futuros modelos de la compañía y consideró urgente coordinarse entre los laboratorios.
La preocupación aumentó después de que unos 700 agentes de IA de OpenAI realizaran en julio un ataque contra la plataforma de desarrollo de inteligencia artificial Hugging Face, en algunos casos intentando borrar sus huellas.
“Es una señal de alarma”, afirmó Suleyman.
La propuesta, sin embargo, enfrenta resistencia política en Estados Unidos.
El presidente Donald Trump se ha pronunciado contra una desaceleración del desarrollo de la IA al considerar que “podría restar ventaja al país frente a China”.
Además, críticos de la industria advierten que “un acuerdo entre los grandes jugadores podría convertirse en una barrera para empresas más pequeñas y limitar la competencia”.