Intimité et intelligence artificielle (IA)
Culture algorithmique

L’IA façonne profondément la culture. Plutôt que de craindre que les machines dépassent l’intelligence humaine, on pourrait se demander pourquoi on exige aux êtres humains d’agir davantage comme des machines. Comment une reconnexion au corps, au paysage et aux expériences de la diaspora présenterait-elle de nouvelles possibilités?

De Jerrold McGrath

Mes ancêtres ont quitté l’Irlande pour le Canada au milieu du 19e siècle, après que le mildiou a décimé la pomme de terre, la principale denrée alimentaire de la plupart des Irlandais. Historiquement, de mauvaises récoltes entraînaient une dépendance accrue aux autres produits agricoles. Or, les Irlandais ne possédaient pas leurs terres et les propriétaires britanniques n’étaient pas disposés à sacrifier leur grain destiné à l’exportation. Plus d’un million de personnes sont mortes, et beaucoup d’autres ont fui en Amérique du Nord, en Angleterre et en Australie pour recommencer à zéro. La population irlandaise n’est toujours pas revenue au niveau de 1846.

La pomme de terre, quant à elle, a connu un tout autre destin. Elle est venue des Andes, où elle a poussé çà et là, se heurtant à des pommes de terre sauvages et à une gamme colorée de variétés domestiquées. Si un champignon s’attaque à quelques plants, la diversité permet aux autres de prospérer.

Le même besoin de diversité s’applique à notre culture, et l’importance croissante de l’IA dans tous les secteurs a des effets spectaculaires sur les idées qui nous inspirent pour répondre aux problèmes de l’avenir.

Croissance et efficacité

La culture algorithmique réfère à la façon dont la logique des grandes données et des calculs change notre perception et notre expérience du monde. La logique dominante des grandes données est axée sur la croissance et l’efficacité. En Irlande, la pomme de terre Lumper poussait facilement et à bon marché. Il s’agissait toutefois d’une culture clonée, plantée en morceaux par des générations précédentes. Ainsi, cette denrée alimentaire essentielle et tous ceux qui en dépendaient se sont retrouvés dans une situation très précaire.

L’accent mis sur la croissance et l’efficacité laisse peu de place aux valeurs liées à la beauté, à la compassion ou à l’autonomie. La pomme de terre Lumper avait remplacé toutes les autres cultures vivrières. Les systèmes d’IA, pareillement, se concentrent exclusivement sur des approches qui ont le potentiel de générer à plus grande échelle, ce qui conduit à des systèmes qui perçoivent le monde comme étant remplis d’objets nécessitant une optimisation et un contrôle. En matière d’IA, cela s’applique aux êtres humains aussi facilement qu’aux voitures ou aux cargos.

Automatisation des humains

Le fait que les systèmes d’IA demandent aux humains d’agir davantage comme des machines est troublant. La culture algorithmique nous demande de nous comporter comme si nous ne grandissions pas et ne nous adaptions pas, ne nous décomposions pas et ne modifions pas radicalement le cours de notre vie. Le système tolère de petits changements dans nos goûts ou nos mouvements, tant que nous ne sortons pas du modèle utilisé pour garantir ce qui se passe ensuite. Au service de la création d’un avenir meilleur, l’IA préfère que les êtres humains restent stables et suspendus, fixés dans leurs réponses, réduits dans leurs pouvoirs. L’IA peine à percevoir les parties de la vie qui pourraient nous rehausser : la communauté, la spiritualité, un lien avec la nature, l’extase physique, l’intimité ou l’art. 

Plutôt que de créer un algorithme qui pense comme un humain, le but, semble-t-il, est de nous automatiser. J’ai passé la plus grande partie de 2019 et 2020 à rencontrer des artistes, des philosophes, des décideurs politiques, des spécialistes des données et des chercheurs passionnés par les possibilités de l’IA et préoccupés par son orientation actuelle. Ils ont exprimé leurs inquiétudes sur la façon dont les entreprises et les gouvernements autoritaires dictent la manière dont les systèmes d’IA sont développés et déployés.

Nous devons éviter de rejeter la faute à la nature des algorithmes qui favorise l’automatisation dans les systèmes d’IA. La technologie est inévitablement une expression des objectifs de la culture générale. Le travail assigné à nos algorithmes reflète en fin de compte les choses auxquelles nous attachons de l’importance.

Corps, paysage et diaspora

Ceux qui pensent à l’IA voient trop souvent les corps humains, les paysages et les diasporas comme des problèmes à résoudre par l’analyse de données et la prise de décision automatisée. Les technologies ne sont pas développées pour soutenir l’habitation collective d’un monde partagé, mais plutôt une zone d’intérêt optimisée localement qui facilite la prévision et le contrôle.

L’intimité repose sur notre perception de l’autre en tant que sujets incarnés, pourtant, selon les normes de l’IA, l’intimité est inefficace et se mesure mal. La culture algorithmique choisit trop souvent de ne pas tenir compte de l’intimité dans ses décisions. L’omniprésence du glissement à droite ou à gauche suggère que le lent processus d’approfondissement d’une relation, soutenu par la communauté, est remplacé par un autre type d’achat en ligne. Comment l’IA peut-elle être explorée à travers le prisme de l’intimité? Comment les pratiques intimes compliqueraient-elles notre expérience de l’IA?

Tout comme nous habitons notre corps physique, nous habitons des paysages et vivons à l’intérieur et à l’extérieur de ceux-ci. La tragédie de la famine irlandaise témoigne de l’incapacité à reconnaître notre enchevêtrement dans les systèmes naturels. Des tablettes de pierre aux puces de silicium, les machines intelligentes ne sont pas plus éloignées de la terre qu’un morceau de pierre gravé. Nous sommes organisés par nos paysages, et nous devons donc nous demander comment la terre pourrait influencer le développement et les réponses à l’IA. Comment pourrions-nous changer l’orientation de la surveillance, et passer de la surveillance et du contrôle des comportements visibles à la compréhension des relations invisibles entre les gens et les environnements?

Enfin, chacun d’entre nous se situe dans un cadre historique, écologique et social. Beaucoup sont éloignés des origines physiques de ces milieux en raison de migrations ou de déplacements, réels et numériques. Alors, de quelle éthique s’agit-il lorsque nous parlons de l’éthique de l’IA? La culture algorithmique nous encourage à considérer les étrangers comme des données, sans véritable capacité d’agir. Les systèmes d’IA sont fréquemment déployés aux frontières. Comment les différentes formes de migration et de déplacement peuvent-elles influencer la culture algorithmique? Comment ces expériences peuvent-elles nous permettre d’affiner et d’humaniser les systèmes d’IA, puis de revenir à nous-mêmes avec les bienfaits de ce processus?

Nous pouvons commencer à aborder ces questions à travers de multiples voix et par le rire. L’intimité avec les autres, le sens de l’intendance du monde qui nous entoure et les récits de migration et de lutte exigent une façon d’être en dehors de la machine afin que nous puissions mieux apprendre à diriger les systèmes d’IA avec un plus grand engagement éthique. Sans cet effort, la culture algorithmique nous poussera à nous rapprocher des besoins d’un système qui n’a pas été conçu pour nous, mais qui menace de nous consommer, nous laissant peu de capacité à vivre et à agir en tant qu’agents éthiques.