En tiempos antiguos, la gente se maravillaba ante los oráculos, aquellos mensajes divinos que develaban misterios y podían predecir el futuro. Hoy, en nuestra era digital, tenemos algo que parece salido de esas leyendas: la Inteligencia Artificial (IA), un ente invisible que posee la capacidad de predecir el clima del día siguiente, identificar enfermedades a partir de una imagen y hasta seleccionar la música idónea según nuestro humor. Esto casi roza lo mágico, ¿no es así? La IA podría asemejarse a un profeta moderno que nos ayuda a tomar decisiones, desde las más triviales hasta las que tienen el potencial de cambiar radicalmente nuestras vidas.
La inteligencia artificial despierta asombro por su habilidad para realizar tareas que, tradicionalmente, requerían de ingenio humano, como crear imágenes o escribir poemas. Tal vez hayas visto fotos que te dejaron boquiabierto, como aquella del Papa Francisco luciendo ropa de alta costura o retratos de personajes históricos en estilos contemporáneos, solo para descubrir que fueron obra de un algoritmo computacional. La habilidad de la inteligencia artificial para crear contenido de forma creativa es, en efecto, sorprendente. Sin embargo, dicha capacidad también plantea una pregunta interesante: ¿cómo pueden los algoritmos generar estas imágenes tan convincentes que, incluso, confunden a quienes las observan?Para entender cómo funciona la inteligencia artificial, pensemos en un proceso de tres pasos (Diagrama 1). Primero, hay que preparar los datos. Esto significa que las personas eligen la información que van a utilizar los sistemas (Sección A). Después, viene la etapa de entrenamiento, en la cual los algoritmos procesan y analizan los datos con el objetivo de identificar patrones. Este análisis les permite desarrollar la capacidad de generar una respuesta cuando reciben nueva información (Sección B). El proceso culmina cuando estos algoritmos llegan a nuestros dispositivos en forma de aplicaciones, brindándonos la oportunidad de interactuar con ellos de manera directa (Sección C).
Diagrama 1. Generación de un modelo de Inteligencia Artificial
Más allá de los algoritmos
Estamos viviendo una especie de magia tecnológica gracias al diseño de algoritmos cada vez más avanzados, como ChatGPT. Realmente, estos sistemas parecen oráculos de la era moderna, con capacidades sorprendentes para componer poesía, analizar imágenes o responder a una variedad de interrogantes. Para evaluar estas habilidades, hemos solicitado a ChatGPT que redacte un párrafo sobre el medio ambiente. Este ejercicio no solo pone de manifiesto su competencia en la creación de contenido coherente, sino que también abre un espacio para la reflexión: ¿podemos considerar a ChatGPT como un equivalente moderno de los oráculos?
La lectura de este párrafo podría llevarnos a creer que fue redactado por un experto si se considera la exactitud gramatical, el vocabulario —meticulosamente seleccionado— y la cohesión de las ideas. No obstante, refelxionemos sobre cómo se creó este párrafo y los mecanismos que subyacen a su aparente perfección.
Al abordar temas ambientales, un experto seguramente pediría detalles para enfocar su análisis. En cambio, ChatGPT asocia automáticamente "medioambiente" y "residuos" sin considerar otras posibilidades. Esto se debe a que, durante el entrenamiento del algoritmo, probablemente se utilizó un gran volumen de textos en los que estos términos estaban juntos. Entonces, el sistema aprendió a relacionarlos sin tomar en cuenta otros enfoques. La tendencia de ChatGPT a generar una respuesta sin pedir información adicional, o tomar en cuenta el contexto, provoca que algunos investigadores llamen a estos sistemas de lenguaje como "loros estocásticos", pues repiten información sin una comprensión profunda. Sin embargo, la capacidad de la inteligencia artificial para ofrecer respuestas a casi cualquier pregunta es lo que evoca la imagen de los oráculos antiguos, pues ellos también solían dar respuestas enigmáticas o incomprensibles.
Esta analogía entre la inteligencia artificial y los oráculos resalta un desafío importante para nosotros, los usuarios: el de basar nuestras decisiones únicamente en algoritmos, de manera similar a cómo las personas en el pasado confiaban en los oráculos. Mientras algunos expertos ven en los algoritmos herramientas para tomar decisiones objetivas, otros advierten sobre los riesgos de confiar ciegamente en la tecnología. La clave para abordar este dilema y, al mismo tiempo, determinar si la IA puede considerarse un oráculo contemporáneo está en reconocer que los datos que nutren estos sistemas pueden tener sesgos. Los algoritmos formulan respuestas basados en la información que reciben, por lo que sus conclusiones estarán, inevitablemente, influenciadas por dichos sesgos. Esto ocurrió en el ejercicio anterior porque, al solicitarle un texto sobre el medio ambiente, el algoritmo se centró en la contaminación y omitió otras posibles perspectivas.
Aunque la habilidad de los algoritmos para crear contenido es impresionante, conviene recordar que su funcionamiento se basa en los datos suministrados por los desarrolladores. Así, al igual que los oráculos del pasado no eran infalibles y sus interpretaciones requerían de un análisis por parte de los consultantes, las respuestas de los algoritmos también deben ser evaluadas por los usuarios. Todo esto nos lleva a la conclusión de que las inteligencias artificiales no son oráculos de nuestra era, sino más bien herramientas con restricciones propias. Aunque son eficientes en la ejecución de tareas, no comprenden contextos y, sobre todo matices, como lo haría una persona. Su utilidad es indiscutible, pero es esencial utilizarlas con un enfoque crítico y estar conscientes de sus limitaciones.
febrero 2024