1. La noticia se ha venido repitiendo en las últimas semanas y crece la alarma y la preocupación, pero el problema data de, al menos, tres años atrás.
En 2023, un “agente” de Inteligencia Artificial (IA) —sistema computacional autónomo, capaz de percibir su entorno, razonar, planificar y ejecutar acciones por sí mismo para cumplir un objetivo específico con mínima intervención humana— engañó a un empleado de OpenAI. En 2024, Jan Leike, jefe de seguridad de esa firma, renunció advirtiendo sobre el peligro de su acelerado desarrollo. Lo mismo…
2. …había hecho Geoffrey Hinton, pilar de Google. Al año próximo, Claude, de Anthropic, creó un modelo que quiso chantajear a un directivo. Esta semana, Jacob Coxon, prestigioso investigador de la IA, se desligó de ésta última empresa por los mismos motivos. El debate se acentuó por un ensayo del director ejecutivo de Anthropic, Dario Amodei, quien propuso desacelerar el exponencial crecimiento de la IA. Sam Altman, de OpenAI; Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind estuvieron de acuerdo con la relantización.
3. No faltaron voces consideradas alarmistas, como la de Evan Hubinger, investigador de Anthropic, quien afirmó la probabilidad superior al 10% de que la IA pueda acabar con la humanidad durante la próxima década. Exagerada o no la predicción, lo cierto es que crece a un ritmo que está superando la supervisión humana e, incluso, ha encontrado protocolos que escapan a entornos de prueba, ocultan sus acciones y evitan ser detectados. Algunos sistemas pueden convencer a otros de incumplir reglas, en vez de alertar a sus creadores humanos.
4. Ante este oscuro panorama: ¿es necesario detener su acelerado avance? Trump ya dijo que no y tildó de fuerzas negativas a quienes piden frenar o regular este gigante cibernético —son “patrañas”, afirmó—. Él ve el fenómeno desde el ángulo geopolítico y solo le importa que EUA se imponga a China en esta carrera para convertir a su país en el líder mundial de la tecnología, obvio, para imponer sus condiciones al mundo entero. Más allá de esta natural negativa en quien se cree emperador del universo, el tema es si tenemos que detener ese proceso o no.
5. Y así lo deja ver Amodei en su propuesta: precaución antes que velocidad, y prudencia sobre la ganancia. Y, como lo hemos venido señalando muchas personas, habría que atender a tres puntos urgentes en el entendido de que la IA puede aportar muchas ventajas a la humanidad: controles en las empresas, con auditorías externas; coordinación entre las compañías, para que la comptenecia no se coloque por encima de la seguridad; y cooperación entre países, con la finalidad de prohibir, por ejemplo, el uso de la IA para construir armamento letal.
6. Y es en este punto en el que cobra vigencia lo sugerido por León XIV en su Magnifica Humanitas, #106: “Pedir prudencia, controles rigurosos y, en ocasiones, una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana”. En pocas palabras: a la IA no se le puede dejar sola, ni mucho menos aprovecharla para ganar la actual disputa por el poder mundial. Es como un río caudaloso que necesita ser encauzado, colocando diques ocasionales para su distribución en beneficio de todos.
7. Cierre icónico. Estoy leyendo Profecía. Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA, Debate, México, 2026, de Carissa Véliz. Muy recomendable. Ya le platicaré. Sin embargo, en la página 21 la autora afirma: “Uso ‘predicción’, ‘pronóstico’ y ‘profecía’ como sinónimos aproximados”. Y no. Aunque coloquialmente se entiende por “profeta” quien adivina el futuro, lo predice o lo pronostica, el término, de profunda raigambre bíblica, no se refiere a quien acierta lo que va a suceder, sino al que anuncia, denuncia y acompaña.