Uso de IA se convierte en un problema mundial

Varios policías antidisturbios de Nueva York derriban al expresidente Donald Trump. El presidente ruso, Vladímir Putin, viste un uniforme gris tras los barrotes de una celda de hormigón poco iluminada.Las imágenes sensacionalistas y altamente detalladas han inundado Twitter y otras plataformas de redes sociales en los últimos días, en medio de noticias de que Trump enfrenta posibles cargos penales y de que la Corte Penal Internacional ha emitido una orden de arresto contra Putin, pero ninguna es remotamente real.Esas imágenes —y las decenas de variaciones que ensucian las redes sociales— se produjeron mediante generadores de imágenes cada vez más sofisticados y ampliamente accesibles impulsados por Inteligencia Artificial (IA).Los expertos en información falsa advierten que estas escenas son precursoras de una nueva realidad: oleadas de fotos y videos trucados que inundan las redes sociales de la mano de los principales acontecimientos informativos y que enturbian aún más los límites entre la realidad y la ficción en momentos cruciales para la sociedad.'Esto hace más ruido durante las crisis. También aumenta el nivel de escepticismo', afirma Jevin West, profesor de la Universidad de Washington en Seattle y que se especializa en estudiar la difusión de información engañosa. 'Empiezas a perder la confianza en el sistema y en la información que recibes'.Aunque no es nueva la capacidad de manipular fotos y crear imágenes falsas, las herramientas de generación de imágenes de IA de Midjourney, DALL-E y otras firmas se han vuelto más fáciles de usar. Pueden generar rápidamente a gran escala imágenes realistas, con todo y fondos detallados, con poco más que un simple mensaje de texto del usuario.Algunas de las imágenes recientes han sido impulsadas por el lanzamiento este mes de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.En un hilo de Twitter muy difundido, Eliot Higgins, fundador de Bellingcat —un colectivo de periodismo de investigación con sede en Holanda—, utilizó la última versión de la herramienta para conseguir decenas de imágenes dramáticas de la detención ficticia de Trump.Las imágenes, que se han compartido y que han recibido 'me gusta' decenas de miles de veces, mostraban a varios policías uniformados deteniendo al multimillonario republicano y derribándolo violentamente al pavimento.Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que las publicó sin malas intenciones. Incluso declaró claramente en su hilo de Twitter que las imágenes fueron generadas por IA.'La imagen de la detención de Trump en realidad sólo mostraba casualmente lo bueno y lo malo que era Midjourney a la hora de representar escenas reales', escribió Higgins en un correo electrónico. 'Las imágenes empezaron a formar una especie de narrativa a medida que yo daba indicaciones a Midjourney, así que las encadené en forma de narración y decidí terminar la historia'.Subrayó que las imágenes están lejos de ser perfectas: en algunas se ve a Trump —curiosamente— usando un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.'Sólo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo', señala Anlen.Dado que las imágenes artificiales son cada vez más difíciles de distinguir de las reales, la mejor manera de combatir la desinformación visual es una mejor concienciación y educación de la gente, recalcan los expertos.'Es tan fácil y barato crear estas imágenes que deberíamos hacer todo lo posible para que la gente sea consciente de lo avanzada que va esta tecnología', afirma West.

Comentarios