Algorithmes et liberté de décision
Un moi calculé

Des programmes informatiques produisent des profils d’utilisateurs et déterminent notre rôle et notre comportement sur la toile. Les algorithmes nous font-ils perdre notre liberté de décision ? Ce débat touche aussi en Allemagne les utilisateurs qui voient surtout les avantages de ceux-ci.

Les algorithmes - c’est-à-dire des programmes se basant sur les traces des données que nous laissons sur internet - calculent nos habitudes de consommation et nos comportements en matière de communication. Ils contrôlent les résultats des recherches effectuées sur la toile et influencent, au moyen de nos adresses qui apportent des informations assez probables sur notre situation financière, nos modes de paiement pour les produits achetés en ligne.

En Allemagne aussi, les discussions sur les effets des algorithmes n’en finissent pas. Beaucoup de gens se demandent en effet si les ordinateurs ne prennent pas les décisions à leur place. L’idée d’être influencé par quelque chose d’insaisissable et d’incompréhensible pour des non-professionnels est facteur d’inquiétude voire parfois de peur.

Les machines prennent part à la décision

Les algorithmes sont efficaces : au moyen de procédés mathématiques et statistiques et à partir des comportements des utilisateurs, il est possible de deviner l’attitude probable d’un individu sur un sujet quelconque. Ce que nous voyons sur Facebook, c’est ce que l’algorithme de Facebook a calculé pour nous – en fonction de la façon dont nous avons interagi sur la plateforme.

Ainsi, il serait même possible d’influencer les opinions politiques. On débat depuis longtemps déjà à propos de ce phénomène appelé Filterbubble, rendu célèbre par la thèse de l’Américain Eli Pariser, activiste sur la toile. Dans son livre de 2011, dont le titre reprend ce terme, Pariser constatait que les actualités personnalisées diffusées par Facebook présentaient surtout des reportages allant dans le sens de ses opinions politiques. De cette manière, l’utilisateur est isolé dans une « bulle » excluant toute information qui viendrait contredire ses opinions. L’influence des algorithmes va cependant encore plus loin : les machines effectuent déjà actuellement des prévisions pour déterminer si une personne est solvable ou non ou pour savoir le montant de la cotisation de son assurance. À partir du lieu d’habitation, on peut déduire le risque de défaut de paiement et à partir de l’état de santé le risque de maladie.

Mais faut-il vraiment s’en inquiéter ? Les individus auraient-ils perdu le contrôle sur leurs décisions ? Ce qui peut être calculé au moyen d’algorithmes, ce ne sont pas des choses certaines mais des probabilités. Les algorithmes ne reproduisent pas non plus le système complexe de valeurs qui est le nôtre et qui sous-tend notre prise de décision dans une situation donnée : ils restent au niveau des actions simples, comme lorsque nous cliquons sur un texte ou achetons un produit.

Demande de transparence

De la même façon, la réalité filtrée d’un flux Facebook n’est pas un problème que les algorithmes auraient créé. « Dans le fond, la Filterbubble n’est qu’une bulle parmi d’autres. Notre environnement social forme aussi notre perception d’une manière bien précise », dit Ben Wagner, directeur de recherche du département Internet et droits de l’Homme de l’université européenne Viadrina de Francfort/Oder. « Le point décisif est que nous en soyons conscients. » Néanmoins, beaucoup d’algorithmes, comme ceux de Facebook ou Google, ne sont pas transparents. Les utilisateurs de ces services ne savent pas comment la décision est prise à leur place, „en amont“. Actuellement, le danger d’exclure des groupes marginaux existe bien, par exemple des gens qui ne pourront contracter une assurance maladie en raison des données existantes sur leur santé », préviennent des scientifiques comme Ben Wagner. La demande pour plus de transparence demeure ainsi la mission principale d’une « éthique des algorithmes ».

Un débat allemand

Dans l’opinion allemande, les adversaires d’une « algorithmisation » des individus se font fortement entendre. Parmi les personnalités les plus célèbres qui ont averti l’opinion de ce problème, il y avait le journaliste co-éditeur du Frankfurter Allgemeine Zeitung, Frank Schirrmacher, décédé à l’été 2014. Dans ses best-sellers, Pay-Back (2009) et Ego (2013), il affirmait qu’internet était une drogue et que les ordinateurs modifiaient notre pensée. Depuis des années, les hommes politiques préviennent aussi du risque d’une « dictature des données ». Dans son livre, Finger weg von meinen Daten (Touche pas à mes données), paru en 2014, le député européen des Verts, Jan-Philipp Albrecht, voit l’individu de plus en plus placé sous leur tutelle et réduit à un système pouvant être auto-optimisé et mathématiquement calculé.

Face à ses positions critiques se font entendre des voix qui tentent de les interroger. Quelle est la véritable étendue du pouvoir des algorithmes ? Pourquoi nous orientons-nous, avec nos critiques, vers des évolutions soi-disant négatives mais qui, pour une part d’entre elles, n’ont pas encore été constatées dans la réalité, au lieu de souligner les aspects positifs de la numérisation, demande l’auteure Kathrin Passig dans le web-magazine culturel Berliner Gazette. L’historien des sciences Klaus Mainzer, professeur à l’Université Technique de Munich, est quant à lui favorable à une « détechnisation » du débat. Les algorithmes ne sont selon lui, ni une invention de la Silicon Valley ni quelque chose de « mauvais » en soi. Ils prennent leurs origines, dit-il dans son livre paru en 2014 Die Berechnung der Welt (le calcul du monde), dans une recherche de description mathématique des phénomènes et de théorisation du monde ; ce que pratiquent les Hommes depuis des millénaires.

On remarque en même temps que les citoyennes et les citoyens allemands se plaignent de Google et de Facebook mais qu’en même temps, ils utilisent de plus en plus leurs services. Ni une vaste prise de conscience envers les risques de ce phénomène ni même un mouvement politique ne sont en vue pour le moment. On a demandé à Indra Spiecker du Frankfurter Allgemeine Zeitung pourquoi il en était ainsi. Et telle fut sa réponse : « La technique est tout simplement trop belle. » Mais peut-être est-ce encore beaucoup plus simple : le besoin concret d’entretenir des contacts et des réseaux, facilement et à des distances éloignées, l’emporte pour beaucoup de gens sur une prise en compte de risques qui restent très abstraits.