Sam Altman pide estándares internacionales de seguridad por IA

El CEO de OpenAI, Sam Altman, planteó la necesidad de establecer estándares internacionales de seguridad para la inteligencia artificial (IA) y advirtió sobre los riesgos de una regulación fragmentada entre países.

En un artículo publicado junto al científico jefe de OpenAI, Jakub Pachocki, Altman señaló que el desarrollo de normas comunes podría tomar como referencia sectores como la aviación y las finanzas, donde existen estándares técnicos internacionales y mecanismos de cooperación entre países.

Altman y Pachocki también consideraron necesario que personas ajenas a los laboratorios de IA tengan una participación real en las decisiones sobre el desarrollo de esta tecnología.

Según los responsables de OpenAI, esto permitiría reducir la concentración de poder y mantener un entorno competitivo mientras avanzan los sistemas de inteligencia artificial.

Autores plantearon tres objetivos para garantizar que la inteligencia artificial general beneficie a la humanidad: desarrollar un investigador automatizado especializado en alineación y control humano, impulsar el progreso científico y económico, y dar a las personas mayor capacidad mediante modelos de IA personalizados.

Advierten sobre la 'auto-mejora recursiva'

OpenAI señaló que la IA ya está acelerando avances científicos en áreas como las matemáticas y la medicina, pero advirtió que el aumento de autonomía de estos sistemas también incrementa la necesidad de desarrollar mecanismos para mantenerlos bajo control humano.

Uno de los escenarios analizados es la llamada “auto-mejora recursiva”, mediante la cual los sistemas podrían contribuir a mejorar sus propias capacidades y acelerar el desarrollo tecnológico.

Altman y Pachocki advirtieron que, sin salvaguardas y decisiones democráticas informadas, este proceso podría provocar que los humanos pierdan el control práctico sobre la investigación.

También señalaron que sistemas que evolucionen sin suficiente supervisión podrían volverse difíciles de comprender y representar mayores riesgos.

Para reducir estos riesgos, los ejecutivos de OpenAI consideran fundamental establecer estándares internacionales de seguridad que definan criterios técnicos para los desarrolladores.

Plantearon que Estados Unidos podría liderar este esfuerzo mediante organismos como el Centro de Estándares e Innovación en Inteligencia Artificial (CAISI) y en coordinación con institutos de seguridad de otros países.

Entre ellos mencionaron a Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea del Sur, Singapur, India y Reino Unido.

Los responsables de OpenAI identificaron finalmente la fragmentación regulatoria entre países como uno de los principales desafíos para establecer una estrategia global de gobernanza de la inteligencia artificial.