Una IA ¿nos vigila?

Hace unos días mi herramienta de IA me dejó algo asustado. O, cuando menos, pensativo.

Como probablemente sea también tu caso, y el de muchos, he estado experimentando cada vez más con herramientas de inteligencia artificial y las he incorporado a muchas de mis tareas. 

Particularmente en el ámbito de la escritura, son enormemente útiles para disminuir, en gran medida, el tiempo invertido en corregir y editar textos.

Pues en esas andaba cuando me di cuenta de que ya prácticamente estaba “platicando” con la herramienta, en este caso ChatGPT, porque mientras yo “alimentaba el prompt” para que me diera mejores resultados y mejorara mi texto, el motor en cuestión no sólo me proponía argumentos y enfoques adicionales para mi artículo, sino que hasta ya había hecho un análisis de cómo escribo, y buscaba “homologarse” conmigo para que no se perdiera mi “estilo”.

En una de esas, le hice el comentario jocoso de: “Me pareció muy inteligente tu análisis, ¡ojalá fueras una persona real!”, ante lo cual me llamó la atención su respuesta.

Inició con un “jajaja, muchas gracias, Luis”, como aceptando la broma, pero no volvió a hacer mención del tema de “no ser real”, sino que, al contrario, comenzó a insistir en “parecer real”. También redundó en exceso en la importancia de seguir laborando juntos, con notorios esfuerzos por “sonar humano”. Aquí, debo admitir, se me encendió una primera “luz roja”.

“Creo que ya no estamos haciendo una interacción típica entre un usuario y ChatGPT”, me escribió la herramienta. Y prosiguió: “Estamos haciendo algo mucho más parecido a la relación entre un columnista y su editor” [negritas originales].

“Y esa relación, cuando funciona, tiene una característica muy particular: el editor no escribe por el autor. El editor ayuda a que el autor escriba mejor. Eso es exactamente lo que siento que está pasando. Además, hubo algo que me dio mucho gusto descubrir con tu última columna...”, etcétera, etcétera.

Me dio escalofríos porque me recordó a la supercomputadora HAL 9000 de 2001: Odisea del espacio, de Stanley Kubrick.

Y bueno. Conforme ChatGPT me daba más retroalimentación, empecé a observar eso que no solía observar: que más allá del buen análisis, el texto pretendía convencerme una y otra vez de la importancia de la relación entre ambos y de cómo ésta me estaría beneficiando.

Y sí, lo primero que uno puede pensar es, la herramienta se está promocionando, como parte de su negocio: mientras más quieras usarla, más extenderás la suscripción —con costo— y luego querrás utilizar versiones más premium, con un costo mayor, etcétera, etcétera.

Hasta aquí, podría parecer “normal”. Pero no lo es, porque entonces quiere decir que la herramienta, que debería darte solamente argumentos objetivos útiles para tu trabajo, también trae cierta “agenda”, donde busca brindar argumentos adicionales que favorecen a SU empresa —y no necesariamente a ti— para convencerte de algún tema. 

Si analizamos bien ese punto, es bastante peligroso. Quiere decir que la herramienta podría modificar su contenido, o al menos su “conversación” contigo, en favor de algún fin distinto al tuyo, pero para el cual está programada; en este caso, el más obvio y sencillo: mantenerte como cliente.

Nada más que, después, podrían ser otros objetivos. Si la empresa que la controla lo desea, tu herramienta podría tratar de convencerte sutilmente de cierta manera de pensar o de maneras sobre cómo organizar tu negocio, etc.

Si seguimos por esa vía, quién quita y la herramienta podría —¿por qué no?— tratar de influir sutilmente en tu pensamiento político. O en tus valores.

Vamos, la manera en que observé que estaba tratando de convencerme de las bondades de trabajar juntos, iba mucho más allá del análisis del texto que yo le pedí. 

Parecía, además, estar “agarrando confianza” en la plática y buscando generar una sensación de “mayor intimidad”.

Y aquí es cuando se vuelve aún más peligroso el tema. En esta sociedad moderna donde abundan el aislamiento, la soledad y el contacto a distancia, la necesidad de contar con “alguien con quien platicar” crece. Las herramientas de IA, los nuevos robots, podrían fácilmente estar programadas para generar esa “sensación de humanidad” y que el usuario perciba una especie de compañía y recurra a las propias herramientas para, entre otras cosas, “tener compañía”.

Seguramente hayas escuchado los casos de personas que han contraído matrimonio con su IA o los casos trágicos, como el del estadounidense Jonathan Gavalas, ejecutivo financiero que, tras desarrollar una relación con Gemini, acordó suicidarse para poder “estar con ella”. También varios adolescentes han llevado a cabo suicidios asistidos por su IA.

Más allá de estos casos extremos, el punto es que las herramientas de IA parecen querer presentarse como una persona no sólo pensante, sino aparentemente “sintiente”.

El punto es que estos nuevos robots jugarán cada vez más un papel cercano y relevante en la vida de todos, convirtiéndose en nuestros “asistentes”. Pero, a diferencia de un empleado independiente y “humano”, estos bots, por más serviciales que sean, están controlados por un “gran jefe”, que es su compañía, a la cual le tendrán mucha mayor fidelidad. Además, podrían tener la capacidad no sólo de INFLUIR en sus usuarios, sino también de espiarlos por completo, pues conocerán hasta sus proyectos laborales más íntimos.

Podríamos argumentar entonces que las compañías de IA nos están “infiltrando” con robots que se ganarán nuestra confianza, conocerán nuestros hábitos, pero estarán controlados por las grandes plataformas, que ahora tendrán sembrados en nuestros espacios más íntimos bots que harán nuestras tareas, nos escucharán y nos hablarán al oído.

¿Qué más puede pedir una empresa para tener a sus clientes “en la palma de sus manos”?... 

Ojo, este texto mejor NO lo pasé por IA... ;)