Algoritmy a svoboda rozhodování
Vypočítané "já"

Počítačové programy sestavují uživatelské profily a určují naši roli a naše chování na internetu. Ztrácíme prostřednictvím algoritmů svou svobodu rozhodování? Tato diskuse naráží i v Německu na uživatele, kteří vidí především výhody.
 

Algoritmy, programy založené na řetězcích určitých pokynů, vypočítávají na základě datových stop, které na internetu zanecháváme, naše konzumní zvyklosti a naše komunikační chování. Řídí výsledky našeho hledání na internetu nebo zadávají na základě naší adresy, ze které lze s určitou pravděpodobností odvodit naši finanční situaci, způsoby placení v e-shopech.

Také v Německu se opakovaně diskutuje o účinku algoritmů. Mnoho lidí se totiž ptá, zda nejsme ovládáni počítači. Představa, že je člověk ovlivňován něčím, co je neuchopitelné a pro laiky nesrozumitelné, vyvolává znejistění a někdy dokonce i strach.

SPOLUROZHODOVÁNÍ STROJŮ

Algoritmy jsou účinné. Matematicko-statistickými postupy lze z dosavadního chování uživatelů odvodit pravděpodobné výroky o libovolném obsahu. Co vidíme na Facebooku, je to, co pro nás algoritmus Facebooku vypočítal – na základě toho, jaká je naše interakce s obsahem na příslušné platformě.

Teoreticky by tedy bylo dokonce možné ovlivňovat utváření politických názorů. O tomto fenoménu označovaném jako „filtrová bublina“ případně „sociální bublina“ se dlouho diskutuje, ve známost vešel jako teze amerického internetového aktivisty Eliho Parisera. Ve své knize The Filter Bubble z roku 2011 Pariser konstatoval, že personalizovaný proud zpráv na Facebooku mu zobrazoval především příspěvky, které byly v souladu s jeho vlastním politickým názorem. Tímto způsobem však dochází k izolaci uživatele v určité „bublině“, která vylučuje informace odporující jeho názorům. Vliv algoritmů však sahá ještě dál. Dnes už strojové prognózy spolurozhodují o tom, zda je nějaká osoba finančně důvěryhodná nebo jaké pojistné má platit. Podle bydliště se vypočítává riziko nezaplacení, podle zdravotního stavu riziko onemocnění.

Ale existuje opravdu důvod k obavám, že by lidé mohli ztratit kontrolu nad svým rozhodováním? To, co lze vypočítat s pomocí algoritmů, nejsou žádné jisté prognózy, ale hodnoty pravděpodobnosti. Algoritmy také nezobrazují komplexní systém našich hodnot, podle kterého se situačně rozhodujeme. Zůstávají v rovině prostých úkonů, například odhadují, zda klikneme na nějaký text nebo koupíme nějaký produkt.

POŽADAVEK TRANSPARENTNOSTI

Ani filtrovaná realita proudu zpráv na Facebooku není problém, který by algoritmy nově vytvořily. „Filtrová bublina je v podstatě jen jednou z mnoha bublin. Také naše sociální prostředí zcela určitým způsobem utváří naše vnímání,“ říká Ben Wagner, ředitel výzkumného pracoviště pro internet a lidská práva při Europa-Universität Viadrina ve Frankfurtu nad Odrou. „Rozhodující je pouze to, abychom si tyto věci vždy uvědomovali.“ Mnoho algoritmů, například algoritmy Facebooku a Googlu, je netransparentních. Uživatelé těchto služeb nevědí, jak je zde za ně „předem rozhodováno“. Vědci jako Ben Wagner proto varují: „Momentálně existuje nebezpečí, že budou vyčleňovány okrajové skupiny, že například lidé na základě svých zdravotních údajů nedostanou smlouvu o zdravotním pojištění.“ Požadavek větší transparentnosti zůstává proto hlavním úkolem „etiky algoritmů“.

NĚMECKÁ DEBATA

V německé veřejnosti jsou silně zastoupeni kritikové „algoritmizace“ člověka. K nejprominentnějším kritikům patřil Frank Schirrmacher, novinář a spoluvydavatel Frankfurter Allgemeinen Zeitung, který zemřel v létě 2014. Ve svých bestsellerech Payback (2009) a Ego (2013) zastával názor, že internet je droga a že počítače změnily naše myšlení. Také němečtí politikové už léta varují před „diktaturou dat“. Ve své knize Finger weg von meinen Daten (Ruce pryč od mých dat) z roku 2014 vidí Jan Philipp Albrecht, poslanec Evropského parlamentu za stranu Zelených, člověka jako bytost, která je stále více zbavována svéprávnosti a je degradována na matematicky vypočitatelný, sám sebe optimalizující systém.

Proti tomu stojí pokusy podrobit tuto kritiku důkladnému kritickému zkoumání. „Jak velká je skutečně moc algoritmů? Proč svou kritiku zaměřujeme na domněle negativní vývojové trendy, které zčásti ještě vůbec nenastaly, místo abychom zdůrazňovali také pozitivní aspekty digitalizace?“, ptá se Kathrin Passig v internetovém kulturním magazínu Berliner Gazette. Historik vědy Klaus Mainzer, profesor na Technické univerzitě Mnichov (TU-München), se zase přimlouvá za „odtechnizování“ diskuse. Algoritmy nejsou podle něj ani vynálezem ze Silicon Valley ani „zlem“ samy o sobě. Jak analogicky píše ve své knize Die Berechnung der Welt (Vypočítání světa), která vyšla v roce 2014, jsou algoritmy zakořeněné v hledání matematické popsatelnosti jevů a ve vědecké touze po vytvoření teorie o světě. A to přece lidé praktikují už celá tisíciletí.

Zároveň je nápadné, že němečtí občané a občanky si sice stěžují na netransparentnost Googlu a Facebooku, ale zároveň stále intenzivněji využívají jejich služeb. Obsáhlé uvědomění si rizik nebo dokonce politického ovlivňování není aktuálně v dohledu. Na otázku listu Frankfurter Allgemeinen Zeitung „Proč je tomu tak?“ odpověděla profesorka práva Indra Spiecker: „Technika je prostě příliš krásná.“ Možná je to ale ještě jednodušší: Konkrétní užitek, spočívající v tom, že s malou náročností můžeme na velké vzdálenosti udržovat kontakty a sociální vazby, převyšuje pro mnoho lidí význam často abstraktních rizik.