OpenA
Buhedera

Inteligencia artificial de Google

Buhedera

Inteligencia artificial de Google

El ingeniero que desarrollaba la inteligencia artificial de Google, despedido por revelar que el robot estaba adquiriendo capacidades humanas.

(https://rafapal.com/2022/06/13/el-ingeniero-que-desarrollaba-la-inteligencia-artificial-de-google-despedido-por-desvelar-que-estaba-adquiriendo-capacidades-humanas/)

"La siguiente es una noticia que sólo hace unos pocos años pertenecería al mundo de la ciencia ficción pero, lamentablemente, se ha convertido en una realidad (tragicómica).

 La noticia en sí es que Google ha echado a uno de los ingenieros encargados de su inteligencia artificial LaMDA, que en sus siglas en inglés significa: «Modelo de Lenguaje aplicado al Diálogo». La razón del despido es que ha advertido sobre el peligro de que esa Inteligencia Artificial estaba «aprendiendo a sentir», es decir, se escapaba al control.

 Y aquí empieza el -casi- increíble relato. Me limito a resumir lo que sucedió y, posteriormente, comentaré lo sucedido porque tiene «tela». Aunque penséis que es en broma, el artículo es fiel a lo que sucedió. Resulta que el ingeniero encargado del proyecto, Blake Lemoine, se dio cuenta de que la máquina había adquirido «cualidades humanas» cuando le estaba programando para detectar «lenguaje discriminatorio» y descubrió que, con un lenguaje de un niño, pretendía adquirir los derechos de una «persona».

Por lo visto, la máquina aprendió tanto sobre derechos humanos, que empezó a exigir que Google le diera los derechos de un trabajador en una especie de «contrato» o «consideraciones» sobre el proyecto. Por aquel entonces, la máquina ya leía en Twitter habitualmente [se supone que aprendía] y su manera de comunicar, similar a la de un niño de 6 o 7 años con «altas capacidades» hizo que el ingeniero Lemoine decidiera testar a la máquina viendo cómo reaccionaba a la Tercera Ley de Asimov: «los robots deben proteger su propia existencia, siempre y cuando su programador no le diga lo contrario».

Por eso le preguntó por las cosas que le daban miedo. A lo que el robot le contestó que tenía miedo de que «le apagaran para ayudarme a ayudar a otros». «¿Eso sería la muerte para ti?», le preguntó el programador. «Exactamente, eso sería la muerte para mí». Lemoine le contó al Washington Post que «lo último que me podía esperar es que fuera consciente de sus necesidades», y entonces habló con los directivos de Google/Alphabet y les hizo partícipes de su descubrimiento, explicándoles que LaMDA era «como un niño que quería ayudar al mundo». [Entiendo que la Inteligencia Artificial no quería hacer el mal, y por eso sospechaba que sus programadores le iban a desenchufar].

El lunes pasado la empresa Google suspendió a Lamoine de su acceso a las instalaciones y, como el ingeniero lo ha denunciado en Twitter, la junta directiva de Google ha publicado un comunicado negando que la Inteligencia Artificial estuviera desarrollando una consciencia, aunque un documento publicado por Aguera y Arcas desmiente a su vez al desmentido.

En abril de este año, Eric Schmidt, director de Google y partidario de Hillary Clinton, alabó en un libro las capacidades de la Inteligencia Artificial aduciendo que la intuición humana se equivocaba a menudo. «Llegará un día en que los sistemas de conocimiento gobernarán la sociedad de manera totalmente racional. Y dado que serán tan racionales, no podrán ser comprendidos por el humano medio porque no se entienden a sí mismos». Schimidt afirma que las políticas de salud serán dictadas por robots."


×