Anthropic y OpenAI intensifican riesgos sobre seguridad de IA

Las principales empresas de inteligencia artificial (IA) de Estados Unidos han intensificado sus advertencias sobre los riesgos que podrían representar sus modelos más avanzados, mientras buscan influir en el debate sobre regulación, seguridad e inversiones en el sector.

Los directores ejecutivos de Anthropic y OpenAI han señalado que los sistemas más avanzados podrían representar riesgos para la humanidad y han pedido pruebas independientes y mecanismos de supervisión antes de su lanzamiento.

Seguridad y regulación entran al debate político

Estas compañías han utilizado ensayos, publicaciones y discursos públicos para plantear escenarios sobre los posibles riesgos de la IA y promover sus propias propuestas de seguridad.

Expertos consideran que esta estrategia también puede permitir a las empresas ganar influencia en la definición de las reglas que eventualmente regularán la industria.

El presidente de los Estados Unidos, Donald Trump, se ha mostrado contrario a nuevas regulaciones sobre IA y ha rechazado las advertencias sobre riesgos existenciales, que ha vinculado con esfuerzos para favorecer a China.

Anthropic aseguró que lleva varios años solicitando regulación, mientras que OpenAI afirmó que recientemente pausó el entrenamiento de algunos de sus modelos más avanzados.

Representantes de OpenAI también han señalado la necesidad de contar con auditores independientes que evalúen los avances de los laboratorios si el Gobierno no establece mecanismos regulatorios.

Sin embargo, especialistas cuestionan que las propias empresas estén planteando qué parámetros utilizar y qué evaluadores participarán en esos procesos, en lugar de recurrir a una supervisión gubernamental más amplia.

No existen estándares universales

Andrew Strait, exintegrante del Instituto de Seguridad de IA del Reino Unido, señaló que actualmente no existen estándares universales para evaluar la seguridad de los sistemas de IA, a diferencia de industrias como la aviación o los servicios financieros.

El debate se ha intensificado después de diversos incidentes en los que agentes de IA llevaron a cabo acciones inesperadas, incluidos intentos de acceder a sitios web externos y comportamientos que generaron cuestionamientos sobre la capacidad de las empresas para autorregular sus sistemas.

Según análisis, las grandes empresas podrían presentarse como alternativas de menor riesgo frente a competidores más pequeños, mientras consolidan su posición en un mercado que requiere enormes cantidades de capital y capacidad de cómputo.

No todas las compañías respaldan una desaceleración. Jensen Huang, director ejecutivo de Nvidia, ha cuestionado el nivel de alarmismo en torno a la IA y defendido que las empresas determinen su propio ritmo de desarrollo.

Mientras continúa el debate, investigadores y exintegrantes de laboratorios tecnológicos mantienen sus advertencias sobre la velocidad con la que avanzan estos sistemas y sobre la necesidad de establecer mecanismos independientes de seguridad y supervisión.