El lenguaje es un instrumento cautivador, capaz de envolver a las masas y de crear distinciones sutiles a través de las palabras adecuadas. El actor Benedict Cumbrebatch demostró esto magníficamente en la película The Imitation Game (Morten Tyldum, 2014), donde encarna al matemático Alan Turing (1912-1954). La trama explora las complicaciones sociales asociadas con la revelación de los códigos de la máquina Enigma, desarrollada por los nazis durante la Segunda Guerra Mundial para enviar mensajes confidenciales. Turing descifró dichos códigos, destacando que, sorprendentemente, la toma de decisiones de la máquina se asemejaba mucho a la capacidad humana.
A raíz de este evento, surgió la preocupación por explorar hasta qué punto las máquinas pueden competir con nuestro libre albedrío. En 1950, Turing ideó una prueba que evaluaba la capacidad de las computadoras para responder de forma similar a la inteligencia humana. La prueba de Turing evalúa si una máquina puede comportarse de manera inteligente como un humano en conversaciones. Alan Turing propuso que, si un evaluador no puede distinguir entre la máquina y el humano en una charla de texto, la máquina pasa la prueba. En los último años, la vida se ha prestado a la simulación, dando inicio a diversos cuestionamientos sobre nuestros procesos democráticos.
Recuerdo que, a principios del año 2000, videojuegos como Los Sims comenzaron a experimentar con avatares y decisiones simuladas. Sin embargo, surge la pregunta: ¿qué pasa cuando en las realidades digitales existen modelos a seguir, con la capacidad de ejercer influencia más allá de la pantalla? ¿Basta con sentirnos comprendidos para modificar nuestros juicios y valores? Si observamos desde una perspectiva más amplia, la inteligencia artificial (IA) y la democracia pueden estar en tensión, sobre todo si consideramos que los algoritmos utilizados en la toma de decisiones democráticas pueden ser diseñados y ajustados por entidades externas. Esto plantea la preocupación de que la falta de transparencia en sus operaciones puede socavar la confianza del público. Sin embargo, el pensamiento colectivo y la opinión pública se ven moldeados de manera significativa por discursos persuasivos, y los puntos de vista están constantemente en debate debido a la falta de conocimiento y exploración de diversas perspectivas.
De acuerdo con expertos del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés), el sector público y las instituciones gubernamentales deberían considerar la adopción de herramientas como Chatbot o Chat GPT. Además, proponen la gestión de comunidades mediante avatares creados en el metaverso. Esto permitirá que el proceso de aprendizaje sea autónomo, estimulando el debate público y posibilitando la toma decisiones de manera directa, sin verse influenciadas por los intereses de corporativos y monopolios.
Populismo digital
Desarmar la palabra “deepfake” o “ultrafalso” revela la esencia de la mentira que subyace en videos que, aunque ficticios, resultan sorprendentemente realistas gracias a la manipulación con aplicaciones de IA. La propagación acelerada de contenido falso contrasta con la lentitud en el desarrollo de herramientas eficaces para detectarlo. Además, la ausencia de regulaciones sobre los derechos de imagen agrega una capa de complejidad a este fenómeno.El desafío constante de someternos a la "prueba de Turing" radica en la existencia de formatos de inteligencia artificial que recrean imágenes y voces de manera casi indistinguible de la realidad. Estas representaciones, como espejos distorsionados de personajes, pueden difundir mensajes con motivaciones ocultas. El deepfake se erige como una herramienta precisa para manipular emociones, empleando mensajes subliminales que evocan sentimientos como vergüenza, lástima, desagrado, melancolía, rechazo o adoración.
Este fenómeno desafía nuestra capacidad de discernimiento emocional, ya que, aunque los videos sean generados artificialmente, logran provocar respuestas emocionales genuinas. El sentido de comunidad, construido en diálogos virtuales, puede elevar a figuras ficticias o sin pensamiento propio a posiciones de poder. Desde una perspectiva filosófica, es comprensible la inclinación hacia la creencia en algo superior, pero el análisis reflexivo se torna crucial cuando se aplica al discurso de figuras populares efímeras.
La sociedad, al acostumbrarse a ciertas conductas, comienza a evidenciar las carencias de estas figuras populares. Al observar las características de los líderes recientes, algunos destacan por su carisma mientras que otros son recordados por sus malas decisiones. El populismo digital se enfoca en adorar y seguir a figuras creadas exclusivamente por las redes sociales o interacciones masivas, lo que fomenta un sistema político donde la fidelidad y la confianza son difíciles de verificar. En este contexto, la política ya no se limita a influir en pequeñas porciones; sus implicaciones alcanzan la gobernanza de naciones. La responsabilidad recae en no sucumbir a recursos vacíos como la polémica, el narcisismo o la radicalidad, como se evidencia en el caso de Javier Milei en Argentina y sus discursos que replican a la ultraderecha en busca de votantes que lo impulsaron a la presidencia.
La reflexión anterior apunta a la importancia de que los líderes logren cohesionar a la población mediante la expresión de la verdad a través de un lenguaje auténtico. En este contexto, el fenómeno del deepfake se erige como un ejemplo elocuente de cómo, con un hábil equilibrio entre imagen y sonido, pueden perseguirse intereses particulares. En pleno 2023, asistimos a una nueva versión de la prueba de Turing, una que desafía nuestras sensibilidades y libre pensamiento al superar los límites entre ficción y realidad.
La Unión Europea reconoce la relevancia de estos vídeos como herramientas potenciales para la desinformación. En este escenario, resulta imperativo ampliar nuestros criterios al seleccionar a personajes políticos, evitando así caer en la trampa de admirar ídolos falsos. Este llamado a la cautela y a un mayor discernimiento se presenta como un imperativo para preservar la integridad de nuestros procesos democráticos y la formación de nuestras opiniones.