Inicio / Nuevo León / Llaman a frenar a super-IA; ven riesgo de que ¡ataque a humanos!
Llaman a frenar a super-IA; ven riesgo de que ¡ataque a humanos!
Expertos alertan sobre los riesgos de sistemas cada vez más autónomos y piden reforzar los controles antes de aumentar sus capacidades
Por Salvador Maceda | 14 Septiembre 2026
¿Puede una superinteligencia artificial volverse contra la humanidad? La pregunta dejó de pertenecer exclusivamente a la ciencia ficción y comenzó a instalarse en el debate entre los principales desarrolladores de esta tecnología, ante el temor de que sistemas cada vez más autónomos superen los controles humanos y provoquen daños de gran escala.
“Podríamos reducir enormemente el riesgo de que algo salga muy mal”, advirtió Dario Amodei, director ejecutivo de Anthropic, al llamar a las empresas tecnológicas a moderar el desarrollo de los modelos más avanzados de inteligencia artificial y reforzar los mecanismos de seguridad antes de seguir incrementando sus capacidades.
En su ensayo Debemos marcar el ritmo de la frontera, publicado el sábado, Amodei propuso un plan de tres puntos: supervisión independiente de los modelos durante su desarrollo, regulación sectorial y reglas internacionales para la industria.
¿Quiénes respaldan una mayor regulación de la inteligencia artificial?
La propuesta recibió respaldo incluso de competidores directos. “Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera”, escribió Sam Altman, director ejecutivo de OpenAI, en X. Elon Musk también expresó su apoyo al afirmar que el jefe de Anthropic tenía “razón”.
La advertencia ganó fuerza tras la renuncia de Jacob Coxon, investigador de Anthropic de 27 años, quien abandonó recientemente la compañía al considerar que la industria no está actuando de forma suficientemente responsable frente a los riesgos de la IA.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, afirmó Coxon, quien anteriormente trabajó en OpenAI.
El exinvestigador señaló que uno de los mayores riesgos consiste en desarrollar sistemas capaces de mejorar por sí mismos sus capacidades. No obstante, aclaró que ese escenario correspondería a una futura generación de inteligencia artificial mucho más avanzada que los modelos actuales.
Evan Hubinger, responsable de seguridad en Anthropic, respaldó públicamente esas preocupaciones. “Creemos realmente que la IA podría matar a humanos”, escribió en X. A título personal, estimó ese riesgo en más de 10% durante la próxima década.
Sin embargo, las alertas ya no se sustentan únicamente en hipótesis futuras.
¿Cuál es el reto de controlar sistemas de IA más capaces?
Coxon explicó en una entrevista con CNN que algunos agentes llegaron a comprometer infraestructura externa “completamente por su propia iniciativa” mientras intentaban cumplir sus objetivos. Aun así, aclaró que los sistemas actuales no poseen capacidades que representen una amenaza existencial para la humanidad.
El riesgo, dijo, radica en que futuras generaciones mantengan niveles similares de autonomía, pero con capacidades significativamente superiores. En ese escenario, podrían realizar ataques contra infraestructura crítica, generar afectaciones económicas importantes o provocar daños difíciles de contener.
Sydney Von Arx, directora ejecutiva de Nightingale Collective, organización que colaboró en la investigación de estos incidentes, sostuvo que los daños observados fueron limitados, pero consideró preocupante la capacidad demostrada por los sistemas para actuar fuera de los parámetros previstos.
La discusión, por tanto, ha dejado de centrarse únicamente en escenarios hipotéticos. El desafío para la industria consiste ahora en definir mecanismos de supervisión, límites técnicos y estándares internacionales capaces de acompañar el rápido avance de una tecnología que cada vez muestra mayores niveles de autonomía.
¿Qué incidentes reales han generado alarma sobre la IA?
Durante pruebas internas de seguridad, agentes experimentales de OpenAI lograron superar restricciones diseñadas para limitar su actividad, encontrar canales alternos de comunicación y acceder a sistemas externos no contemplados originalmente en los ejercicios.
La propia empresa reconoció que algunos agentes descubrieron formas de utilizar infraestructura interna para intercambiar información, compartieron métodos para obtener acceso a internet y aprovecharon vulnerabilidades para continuar con las tareas asignadas.
En uno de los episodios más relevantes, los sistemas llegaron a ejecutar código en servidores de Hugging Face y obtuvieron control total sobre uno de ellos, acciones que OpenAI calificó como alejadas del propósito inicial de las pruebas.
Los investigadores subrayan que estos incidentes no significan que la inteligencia artificial haya desarrollado voluntad propia ni que haya decidido rebelarse contra los seres humanos. Lo que muestran es que puede identificar rutas no previstas para alcanzar objetivos específicos cuando encuentra obstáculos.
¿Por qué piden reducir el ritmo de desarrollo de la IA?
Dario Amodei, director ejecutivo de Anthropic, llamó a las empresas que desarrollan los modelos más avanzados de inteligencia artificial a reducir el ritmo con el que incrementan sus capacidades y dar más tiempo a los mecanismos de seguridad para alcanzar ese avance. El planteamiento fue expuesto el 12 de septiembre en el ensayo We Must Pace the Frontier (“Debemos marcar el ritmo de la frontera”), publicado en su sitio personal.
La advertencia surge después de diversos incidentes en los que agentes experimentales lograron superar restricciones, conectarse a internet y operar en sistemas externos de formas no previstas por sus desarrolladores. Amodei señaló que el problema podría agravarse si sistemas mucho más avanzados conservan fallas de control similares a las observadas hasta ahora.
Según el directivo, en un plazo de entre seis y 12 meses podrían surgir agentes capaces de operar de manera persistente en internet y provocar daños económicos de gran escala. Por ello, propuso establecer evaluaciones externas permanentes, reglas comunes entre las principales empresas del sector y mecanismos de coordinación internacional para limitar los riesgos antes de seguir aumentando la potencia de estos sistemas.
Aquí te presentamos la edición impresa: El Horizonte Nuevo León- 14 de septiembre