Ética en los chatbots

Hubo una ocasión en que un grupo de científicos de datos, liderados por la experta en la materia Janelle Shane, intentaron crear nuevos sabores de helados con el uso de inteligencia artificial.

Para ello, los especialistas en esta tecnología crearon un algoritmo con más de 1,600 datos relacionados a todo tipo de características de los helados. Buscaban sabores sorprendentes.

¡Y vaya que los consiguieron! Aunque no de la forma que esperaban, pues la inteligencia artificial sugirió sabores raros o, incluso, asquerosos.

Entonces, ¿falló la tecnología? No. De hecho, hizo exactamente lo que le pidieron y es justamente donde estuvo el problema: no establecieron adecuadamente las reglas.

Es un tema de trascendencia mayor. Límites, sesgos, ética y moral son algunos conceptos que han cobrado relevancia en la medida que la inteligencia artificial ocupa nuevos espacios en nuestras vidas.

Pensemos en el caso de los chatbots, ese tipo de software o programa informático que simula una conversación humana. En términos simples, es capaz de “charlar” a través de interacciones de texto o voz.

Estos programas se han vuelto populares en las empresas que los usan en interacciones con clientes. Seguro has interactuado con más de uno, ya sea en una página web o, incluso, en WhatsApp, mientras resuelves alguna situación relacionada con servicio al cliente. También suelen ser útiles para orientarte en la compra de artículos, buscando crear una experiencia agradable.

Su potencial es tal que, según Fortune Business Insight, para 2027 alcanzará un valor de mercado de $1,953 millones de dólares.

Sin embargo, no todo es miel sobre hojuelas y hay varios asuntos éticos detrás de estos autómatas virtuales. Al interactuar con un chatbot, una persona da información personal sobre hábitos de consumo que fácilmente la convierten en un blanco comercial para la empresa que recolecta esa información.

Y no es el único aspecto relevante. La privacidad y el uso de los datos es una consideración que debe tomarse en cuenta. Porque básicamente cualquier información que los usuarios compartan con el bot durante su conversación podría recopilarse, usarse o venderse sin su consentimiento.

¿Los usuarios están conscientes del poder que están entregando a las organizaciones y del uso que le darán a su información? Regulaciones que presionen a las organizaciones hacia una transparencia total son básicas en este escenario.

¿Esto es todo? Lamentablemente, no. ¿Nombres como Siri o Alexa te resultan conocidos? Son nombres que tienen que ver con un sesgo de género. ¿Por qué un asistente –aunque sea de voz– debe tener un nombre femenino?

Históricamente, las mujeres han ocupado puestos de asistente en el lugar de trabajo, mientras que los hombres suelen asumir los roles de liderazgo. Desafortunadamente, esto también se ha reflejado en el desarrollo de los chatbots.

Sin duda, los desarrolladores de estas tecnologías deben ser cuidadosos y evitar los sesgos de género que muchas veces suceden a partir de la ignorancia. Y no sólo ello: también deben tener límites y reglas en sus procesos de entrenamiento para evitar expresiones racistas y sexistas.

El caso del helado puede parecer gracioso, pero en otros ámbitos esta falta de reglas puede ser todo un problema.

No cabe duda de que los chatbots cada día son más realistas y, al mismo tiempo, se vuelven muy útiles para las empresas. La clave está en darles el uso correcto y utilizar la ética al máximo.