Dans l’antiquité, les gens s’émerveillaient devant les oracles, ces figures mystiques capables d’interagir avec les dieux pour dévoiler des mystères et de prédire l’avenir. Aujourd’hui, dans notre ère numérique, nous avons quelque chose ressemblant en quelque sorte aux légendes : l’Intelligence artificielle (IA).
Une entité invisible possédant la capacité de prédire le climat du lendemain, d’identifier des maladies à partir d’une image et, même, de sélectionner la musique appropriée selon notre état d’esprit. Cela est presque à la limite de la magie, n’est-ce pas ? L’IA pourrait ressembler à un prophète moderne qui nous aide à prendre de décisions, dès les plus insignifiantes jusque celles qui ont le potentiel de changer radicalement nos vies.L’intelligence artificielle réveille notre étonnement à cause de son habilité pour réaliser des tâches qui, traditionnellement, nécessiteraient de l’ingéniosité humaine, comme celle de créer des images ou d’écrire des poèmes. Peut-être, tu as déjà vu des photographies qui t’ont époustouflé, comme celle du pape Francisco portant des vêtements de haute couture ou des portraits de personnages historiques dans des styles contemporains, simplement pour y découvrir que tout cela a été le produit d’un algorithme de calcul. L’habilité de l’intelligence artificielle pour créer du contenu d’une façon créatrice est, en effet, surprenante. Néanmoins, une telle capacité pose aussi une question intéressante : comment les algorithmes peuvent-ils générer ces images tellement convaincantes que, même, elles confondent ceux qui les observent ?
Afin de comprendre comment l’intelligence artificielle fonctionne, nous pouvons penser à un processus de trois étapes (Diagramme 1). Premièrement, il faut préparer les données. Cela signifie que les personnes choisissent l’information à utiliser par les systèmes (Section A). Ensuite arrive l’étape d’entraînement, où les algorithmes traitent et analysent les données dans le but d’identifier les modèles. Cette analyse leur permet de développer la capacité de générer une réponse au moment où ils reçoivent une nouvelle information (Section B). Le processus culmine là où les algorithmes arrivent dans nos dispositifs sous la forme d’applications, en nous offrant l’occasion d’interagir avec eux d’une manière directe. (Section C).
Diagramme 1. Création d'un modèle d'IA
Au-delà des algorithmes
Nous sommes en train de vivre une magie technologique grâce au design d’algorithmes de plus en plus avancés, comme ChatGPT. À vrai dire, ces systèmes ressemblent des oracles de l’ère moderne avec des capacités surprenantes pour comprendre la poésie, analyser des images ou répondre à une variété de questions. Afin d’évaluer ces habilités, nous avons demandé à ChatGPT de rédiger un paragraphe sur l’environnement. Cet exercice met non seulement en évidence sa compétence dans la création de contenu cohérent, mais ouvre également un espace de réflexion : est-ce que nous pouvons considérer ChatGPT comme l’équivalent moderne des oracles ?
Lors de l’approche des questions environnementales, un.e expert.e sûrement demanderait des détails pour focaliser sur son analyse. Au lieu de cela, Chat GPT associe automatiquement les mots « environnement » et « résidus » sans considérer d’autres possibilités. C’est parce que, pendant l’entraînement de l’algorithme, probablement, un grand volume de textes a été utilisé où ces termes étaient ensemble. Alors, le système a appris à les relier sans tenir compte d’autres approches. La tendance de ChatGPT à générer une réponse sans demander de l’information supplémentaire ou prendre en compte du contexte provoque ce que de certains chercheurs appellent ces systèmes de langage comme des « perroquets stochastiques », car ils répètent de l’information sans aucune compréhension profonde. Cependant, la capacité de l’intelligence artificielle d’offrir des réponses à presque n’importe quelle question est ce qui évoque l’image des oracles anciens, car eux aussi avaient l’habitude de donner des réponses énigmatiques ou incompréhensibles.
Cette analogie entre l’intelligence artificielle et les oracles met en évidence un défi important pour nous, les utilisateurs : celui de baser nos décisions exclusivement sur les algorithmes. D’une manière similaire à celle des personnes du passé qui mettaient leur confiance en oracles. Alors que certains experts voient dans les algorithmes des outils pour la prise de décisions objectives, d’autres mettent en garde contre les risques de faire aveuglément confiance à la technologie. La clé pour aborder ce dilemme et, en même temps, déterminer si l’IA peut être considéré comme un oracle contemporain est celle de reconnaître que les données qui nourrissent ces systèmes peuvent avoir des biais. Cela s’est passé dans l’exercice précédent, car au moment de demander à l’algorithme un texte sur l’environnement, il s’est centré sur la contamination et il a omis d’autres perspectives possibles.
Bien que l’habilité des algorithmes pour créer du contenu soit impressionnante, il convient de se rappeler que leur fonctionnement est basé sur des données fournies par les développeurs. Ainsi, tout comme les oracles du passé n’étaient pas infaillibles et leurs interprétations nécessitaient une analyse de la part des consultants, les réponses des algorithmes, elles aussi, doivent être évaluées par les utilisateurs. Tout cela nous mène à la conclusion que les intelligences artificielles ne sont pas des oracles de notre ère, mais surtout des outils avec des restrictions inhérentes à eux-mêmes. Bien qu’ils soient efficients dans l’exécution de tâches, ils ne comprennent pas des contextes et, surtout des nuances, comme le ferait une personne. Son utilité est indiscutable, mais il est essentiel de les utiliser avec une mise au point critique et d’être conscients de leurs limitations.
Février 2024