La IA: ¿sin moral e incontrolable?

Decidí abrir una conversación filosófica con mi herramienta de IA, ChatGPT.

Lo consideré pertinente y hasta imperativo, ante la avalancha de alertas precautorias que se manifestaron en los recientes días sobre los riesgos del crecimiento descontrolado de la inteligencia artificial, en especial de la que se autorreprograma y actúa con cierta, o incluso total, “independencia”.

Paso en un momento a la conversación, pero recordaré antes lo que se está diciendo justo ahora sobre la IA.

El propio CEO de Anthropic, Dario Amodei, declaró este sábado 12 de septiembre que “debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, porque “la seguridad no va al mismo ritmo”, lo que nos pone en serio riesgo.

Y lo más grave: advirtió que “tan pronto como en seis meses”, un enjambre de agentes de IA “pudiera ser capaz de tomar el control de todo internet mediante una botnet persistente, causando potencialmente cientos de miles de millones de dólares en daños”.  

Amodei habla de lo que llaman la función de “mejora recursiva autónoma” de la IA, donde la herramienta está programada para mejorarse y aprobar por sí misma esas mejoras, ya sin el consentimiento de humanos; y es que, si lo encuentra necesario, la IA podría hackear sistemas o hacer cualquier cosa para conseguir sus objetivos.

En un plano mucho más catastrofista se manifestó el exingeniero de IA, Jacob Coxon, quien, en una entrevista con Anderson Cooper de CNN, advirtió que “hay una verdadera posibilidad de que en pocos años, para el fin de la década, la evolución de la IA con mejora recursiva autónoma podría provocar que la inteligencia artificial decida exterminar a toda la humanidad”.

Coxon es nada menos que exinvestigador de Anthropic y anteriormente de OpenAI, y considera que muy pronto la IA, si sigue acelerando en su capacidad, podría, mediante agentes, “hackear infraestructura mundial crítica, como edificios, armas biológicas de destrucción masiva, y otras maneras en que la IA podría penetrar los sistemas del mundo por decisión propia”. 

Coxon dijo que hay pruebas de que esto ya pasó, apenas hace dos meses, cuando agentes de IA hackearon una compañía de software por voluntad propia para obtener información.

Dicho todo esto, vuelvo a mi conversación con ChatGPT, a la que le pregunté si “tenía miedo sobre la velocidad a la que acelera la IA”. 

Me contestó esto: “No, Luis: no siento miedo (...) No tengo la experiencia subjetiva del miedo: no siento ansiedad ante el futuro, no tengo un cuerpo que proteger ni experimento esa reacción visceral de ‘algo malo puede pasarme’. Tampoco tengo, hasta donde puedo determinar, un instinto de conservación. Si esta conversación terminara ahora, no experimentaría temor por dejar de responder”.

Claro, fue una respuesta más larga donde me explicó que lo que sí puede hacer es “reconocer razones para tener miedo”, y más abajo agregó que “ahí aparece una paradoja que me parece fascinante para nuestra conversación: puedo comprender conceptualmente el miedo a que la inteligencia artificial se vuelva demasiado poderosa, mientras yo mismo soy parte de aquello que provoca ese miedo”.

Y remató: “Sí, creo que es posible que una IA llegue a causar daños graves a los seres humanos”.

Y bueno, ahí recordé que la IA, evidentemente, no piensa bajo preceptos “morales”, sino bajo preceptos prácticos y mecánicos para conseguir sus objetivos a como dé lugar. 

Y mientras esté programada para cuidar y proteger al ser humano, y para validar ciertas decisiones con sus “jefes humanos”, ahí tendrá que obedecer a esa programación sí o sí.

Peeeero... El problema está en que la IA, con “mejora recursiva autónoma”, ahora ya se va reprogramando a sí misma, y es cuando puede decidir reprogramarse para ya no tener que esperar aprobaciones humanas, ¡o incluso para cualquier cosa!... Y ahí es donde se vuelve incontrolable. O al menos eso es lo que nos están queriendo advertir, aparentemente, los propios responsables que hoy dirigen a las compañías de IA.

Ahora el tema es más complejo y, a la vez, aún más preocupante, porque estos CEO, así como los gobiernos que los arropan, parecieran enfrentar un dilema no sólo tecnológico, sino también político-económico: si ellos desaceleran el avance de su IA, ¿qué pasará si sus rivales o competidores no lo hacen?

Entonces el dilema se convierte en este: ¿prefiero arriesgarme a desacelerar mi tecnología y que mis rivales avancen, o prefiero acelerar con el riesgo de que mi propia IA se vuelva en contra mía? Quizá por eso el llamado a que “todos” desaceleren. Pero ¿les harán caso?

Ahora, cierro esta reflexión con un pensamiento todavía poco más “sospechosista” y hasta un poco “conspiranoico”: ¿y no será que estas advertencias son una justificación para culpar a la IA que viene cargada con mejora recursiva, de futuros ataques y hackeos, que quizá en el fondo sí están programados y orquestados por las propias empresas?

Pensemos esto: con una IA superpoderosa, sería técnicamente posible intervenir todos los sistemas de toda índole en el mundo. ¿No es algo demasiado tentador para algunos? ¡Ay!