La crainte des machines n’est pas un phénomène récent. Des premiers exemples de robots meurtriers dans la culture populaire aux faussetés de ChatGPT, Priscilla Jolly nous plonge dans le monde périlleux des machines trompeuses.
La société contemporaine a été témoin d’une intensification des « guerres culturelles », souvent déclenchées par des événements politiques. Bien que ces développements semblent avoir pris de l’ampleur ces dernières années, l’introduction de l’IA et l’anxiété culturelle entourant son caractère trompeur ou malveillant ne sont pas des phénomènes nouveaux. À l’instar des extraterrestres dans la science-fiction, l’IA a servi de véhicule pour représenter ce qui n’est pas humain. Par exemple, une crainte majeure associée aux extraterrestres est celle de l’invasion, et la manière dont ils peuvent se dissimuler à la vue de tous, comme illustré dans des films tels que L’invasion des profanateurs de sépultures (1956). L’IA est également impliquée dans cette invasion trompeuse par quelque chose de non humain, une intrusion de l’Autre.
IA malveillante – 2001 : l’Odyssée de l’espace
Le film 2001 : l’Odyssée de l’espace, réalisé par Stanley Kubrick en 1968, est devenu un classique salué pour sa cinématographie et sa narration épurée. En ce qui concerne l’IA, le film suscite un intérêt en raison du personnage de HAL 9000, un superordinateur responsable du vaisseau spatial américain Discovery One en route vers Jupiter. Le conflit du film éclate lorsque HAL prédit une panne imminente du dispositif de contrôle d’antenne du vaisseau. En réponse à cette prédiction, l’un des astronautes quitte le vaisseau pour récupérer le dispositif, bien que celui-ci fonctionne correctement, contrairement aux dires de HAL. Les astronautes contactent le centre de contrôle au sol, qui confirme le tout. Cette divergence est significative, car le film commence par une déclaration affirmant l’infaillibilité de HAL 9000, soulignant que jamais HAL n’a commis d’erreurs ni déformé d’informations. Lorsque HAL découvre l’anomalie sur Discovery One, il insiste sur le fait qu’il s’agit d’une erreur humaine. Les astronautes, méfiants quant au contrôle exercé par HAL sur le vaisseau, tentent de discuter de sa désactivation dans une nacelle où HAL ne peut les entendre. Cependant, HAL intercepte leur conversation en lisant sur leurs lèvres, déclenchant ainsi un conflit mortel.L’ingéniosité de HAL à déchiffrer les intentions visant à le « tuer », associée à la mise en scène du film, construit le portrait d’une IA qui collecte subrepticement des informations et n’hésite pas à les utiliser contre les humains. Prenons, par exemple, la représentation physique de HAL dans le film. Les spectateurs sont confrontés à des cercles concentriques : un cercle extérieur entourant un anneau de lumière rouge, abritant une pupille jaune – un œil robotique qui voit tout à bord du vaisseau. Cette représentation de HAL, combinée à la récurrence du cadrage circulaire dans le film, où les spectateurs observent à travers des portes et des fenêtres circulaires, évoque l’idée de regarder à travers une lentille, à l’image de HAL. Cela souligne l’une des principales craintes liées à l’IA : la surveillance. Ainsi, 2001, avec son ordinateur qui lit sur les lèvres et son cadrage en lentille, amplifie les angoisses liées à l’IA et à la surveillance.
Elles sont parmi nous : l’IA cachée dans « Alien, Le Huitième Passager »
Dans Alien, Le Huitième Passager (1979) de Ridley Scott, les peurs des extraterrestres et de l’intelligence artificielle s’entremêlent. Alors que le vaisseau spatial Nostromo est en route vers la Terre, il capte une transmission d’une lune de l’espace extra-atmosphérique. L’IA du vaisseau réveille l’équipage en stase pour enquêter sur cette transmission. En explorant la lune, l’équipage rencontre une espèce extraterrestre hostile. Un extraterrestre attaque un membre de l’équipage, s’attachant à son visage. L’officier Ripley insiste pour que les membres de l’équipage qui se trouvaient à l’extérieur suivent la procédure de décontamination avant de réintégrer le vaisseau. L’officier scientifique Ash défie ces procédures, laissant l’équipage entrer sans décontamination. L’extraterrestre tue son hôte et envahit le vaisseau. Tous les autres membres de l’équipage veulent tuer l’extraterrestre, tandis qu’Ash veut l’étudier. Alors que l’extraterrestre décime l’équipage, Ripley découvre que leurs employeurs connaissaient l’existence de l’extraterrestre et qu’ils avaient confié des commandes secrètes à Ash. L’androïde Ash, révélé être un agent au service de ses maîtres, attaque Ripley, mettant en lumière sa responsabilité dans une possible invasion extraterrestre, fort heureusement contrecarrée par Ripley. En outre, Ash incarne la redoutable crainte liée aux extraterrestres et à l’IA : leur capacité à être indiscernables des humains. Pensez également aux « réplicants » de Blade Runner, qu'il est impossible de distinguer des humains.. En ce qui concerne l’IA, Alien exploite habilement l’anxiété selon laquelle une menace pourrait se dissimuler à la vue de tous, trompant ainsi les êtres humains.IA sans forme : Tromperie et deepfakes dans « The Capture »
Tandis que les médias classiques utilisaient souvent une représentation physique de l’IA, les nouveaux médias s’éloignent de ce modèle. Un exemple notable est la série policière britannique The Capture, diffusée à partir de 2019 et comprenant deux saisons à ce jour, qui explore le problème des « deepfakes ». La première saison narre l’histoire de Shaun Emery, un soldat britannique accusé de crimes de guerre en Afghanistan. Les accusations reposent sur des images de vidéosurveillance le montrant en train de kidnapper et assassiner son avocat, des allégations qu’il nie catégoriquement. La deuxième saison se concentre sur Isaac Turner, le ministre britannique de la Sécurité, invité à une interview télévisée en direct où des manipulations d’images le conduisent à exprimer des opinions divergentes de ses véritables intentions (consultez les « spoilers » de la série).Dans la première saison de The Capture, l’enquêteur découvre que des images de vidéosurveillance ont été altérées dans le cadre d’une technique appelée « correction », employée par les forces de l’ordre. La série met en scène la corruption impliquant plusieurs États-nations, dont les Américains (CIA), les Chinois, les Russes et les Britanniques. Alors qu’Alien combine les craintes d’une invasion extraterrestre avec l’IA, The Capture exploite ces mêmes appréhensions dans le contexte de menaces terrestres. La série expose les chefs des agences de renseignement justifiant l’utilisation de l’IA pour manipuler des images.
Par exemple, dans la première saison, les images trafiquées de vidéosurveillance visent à créer des preuves falsifiées de « ce qui s’est réellement passé » en vue d’obtenir une condamnation. La deuxième saison critique ouvertement l’industrie technologique, Isaac Turner exprimant des critiques envers les géants du Web. Finalement, une fausse version du politicien est diffusée en direct à la télévision pour promouvoir la technologie de reconnaissance faciale. La justification selon laquelle les deepfakes générés par l’IA sont nécessaires à la sécurité nationale, en tant que protection contre d’éventuelles invasions, soulève des interrogations sur l’utilisation éthique de l’IA. Qu’est-ce qui définit une chose comme « éthique »? Et qui décide de ce qui constitue une utilisation « éthique » de l’IA ?
Notre relation avec l’IA
Les représentations d’entités radicalement différentes des humains ont souvent été antagonistes, comme le montrent les extraterrestres. Cet antagonisme se retrouve également dans les représentations populaires de l’IA, souvent imaginée comme une entité susceptible d’envahir, voire de prendre le contrôle de la société humaine. Cette crainte est reflétée dans une lettre ouverte exhortant des entreprises comme OpenAI à interrompre leurs travaux sur des modèles tels que ChatGPT. La lettre soutient que « les systèmes d’IA puissants ne doivent être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables ».En fin de compte, la nomenclature elle-même révèle la perception que la société humaine a de l’IA : l’intelligence artificielle. « Artificiel » et « artifice » sont étymologiquement liés au latin artificium, désignant une œuvre d’art. Le mot « artificiel » a évolué pour signifier « non authentique » dans les années 1640, tandis que « artifice » a pris le sens de « dispositif astucieux » ou de « truc » dans les années 1650. La place du mot « artificiel » dans l’IA soulève la question des hiérarchies de valorisation dans la société. Toutes les intelligences non humaines sont-elles considérées comme artificielles? Dans l’affirmative, qu’est-ce qui est précisément artificiel en elles? Qu’est-ce qui serait considéré comme une intelligence « naturelle »? Est-il possible de transcender la dichotomie naturel/artificiel? À quoi ressemblerait un tel monde?