Algorithmic Governance
A teljes megfigyelés

Algoritmusok, amelyek összegyűjtött adatok alapján megjutalmazzák vagy megbüntetik egy ország polgárait – Kínában vagy Indiában máris valósággá vált az úgynevezett Algorithmic Governance. De már Németországban is hoznak olyan döntéseket számítógépes programok, amelyek sok ember számára következményekkel járnak.

 

Von Arne Cypionka

A Csanghong-hídtól délre fekvő kereszteződés a több milliónyi lakosú Hszienjang városában csúcsforgalom idején – autók dudálnak, gyalogosok kelnek át az úttesten piros lámpánál, elektromos rollerek kígyóznak át a tömegen. Az út mentén egy nagy képernyőt látni számos arcképpel. Valami reklám? Nem. A monitort a rendőrség helyezte el 2017-ben, hogy rendet teremtsen. Azoknak az arcképét mutatja, akik megszegték itt a közlekedési szabályokat – és rögzítették őket az automatikus arcfelismeréssel működő kamerák. Az a lényeg, hogy „pellengérre állítsuk őket a szomszédok és a kollégák előtt” – mondja a város egyik szóvivője a New York Timesnak. A szabályszegők arcképe mellett ott áll a nevük és a személyi igazolványuk száma. Nevelési intézkedés.
 
Az olyan képernyők, mint amilyet Hszienjangban alkalmaznak, csak kis részét képezik a kormány megfigyelési és ellenőrzési gépezetének. Az elmúlt években a kommunista párt több városban indított kísérleti projekteket új társadalmikredit-rendszerének kipróbálására. A projektek során a térfigyelő kamerákból, a privát chatekből, az online-vásárlásokból és sok egyéb helyről gyűjtenek adatokat, amelyeket aztán össze is kapcsolnak egymással. A cél az, hogy 2020-ig az ország összes lakosát egyetlen értékelési rendszerben regisztrálják. A rendszer óriási méretű számítógépes hátterét igénybe véve végül minden kínai kap egy pontszámot, amelyet az algoritmusok folyamatosan aktualizálnak. A kínai tekintélyuralmi rendszer számára ez logikus lépés – így az 1.4 milliárd kínait egyenként ellenőrzés alatt lehet tartani.

Ellenőrzés és büntetés algoritmussal

Algorithmic Governance-ról akkor beszélünk, ha kormányok vagy hatóságok a közösségi oldalakról és más platformokról nyert hatalmas adattömegeket hasznosítják – és a döntést, hogy egy-egy polgárt ezeknek az adatoknak az alapján jutalmazni vagy büntetni kell, a gépekre bízzák. A számítógépek mintákat és ismétlődő magatartásokat ismernek fel, és automatikusan intézkednek: aki sértetlenül adja vissza a kölcsönbiciklit, nem megy át a piroson, és mindig időben beér a munkahelyére, azt pontokkal jutalmazzák. Aki viszont kritizálja az interneten a kínai politikát, vagy – már az is elég – több rosszul értékelt személlyel is kapcsolatot tart, annak számolnia kell azzal, hogy egyre csökken a pontszáma. Aminek drasztikus következményei vannak: alacsony pontszámmal nem lehet repülőgépre vagy nagy sebességű vonatra ülni. Vagy nem lehet a gyereket magániskolába íratni.
 
Ha egy országban ilyen alaposan megfigyelik az embereket, összegyűjtik róluk az összes információt, hogy aztán ellenük fordítsák, az nem pusztán a magánszféra elleni támadás, hanem az egyéni szabadságjogok jelentős korlátozását is jelenti. De nemcsak Kínában értékelik ki a hatóságok a személyes adatokat, Indiában is az egyének teljes körű ellenőrzésével akarják megőrizni az áttekintést a lakosság felett.
 
Aadhaar („fundamentum”) néven olyan adatbankot hoztak létre, amelynek időközben 1.2 milliárdra nőtt felhasználója India szinte teljes népességét lefedi. Egy tizenkétjegyű számmal, amelyhez hozzárendelték a nevet, az életkort, de az írisz felvételét és az összes ujjlenyomatot is, mindenki kétséget kizáróan igazolhatja magát, és például igényelhet társadalombiztosítási ellátásokat – legalábbis elvben. Rachna Khaira indiai újságírónő bemutatta a rendszer gyengéit: heckerekkel lépett kapcsolatba, akik ötszáz rúpiáért (átszámítva hat euróért) a teljes adatbankhoz hozzáférést adtak neki. Az Aadhaar-adatbank, amelynek az lett volna a feladata, hogy megakadályozza az igazságtalan elosztást és a csalást az élelmiszersegélyeknél, egyre nagyobb problémának bizonyul. A hírek szerint már haltak éhen emberek, mert nem tudtak igazolványt felmutatni, vagy nem működött a biometrikus azonosítás. Ezenkívül a rendszer elleni támadások következtében időről időre sok milliónyi adat kerül nyilvánosságra.

Ideje vitát nyitni az adatokról Európában

Európában sem tekinthető rendkívülinek az algoritmusok használata az adatelemzésben. Azonban a Föld két legnépesebb országának – Kínának és Indiának -- kockázatos kísérleteivel szemben Európában nem feltétlenül az állami szervek számítógépei dolgoznak a nagy adattömegekkel. Németországban például létezik egy Általános Hitelbiztosítási Védközösség (Schutzgemeinschaft für allgemeine Kreditsicherung), közismert nevén: Schufa. A Schufa azzal büszkélkedik, hogy 864 millió információ van a birtokában 67 millió magánemberről és 5 millió vállalkozásról. Azt viszont titokban tartja, miképpen zajlik a folyamat, mely eldönti, hogy valaki kibérelhet-e egy lakást, vagy köthet-e mobiltelefon-előfizetést. A Schufa által érvényesített kritériumok is ismeretlenek. Vannak jelei, hogy például a nők az értékelésben hátrányt szenvednek.
 
Németország távol áll attól, hogy közlekedési kihágás miatt valakit pellengérre állítson. Mégis fel kell tennünk a kérdést: milyen mértékben gyűjthetnek és használhatnak fel adatokat a Schufához hasonló vállalatok vagy az állami hatóságok? Ideje vitát nyitni az Algorithmic Governance legitimitásáról. Végső soron arról a kérdésről van szó, hogy a társadalom feletti ellenőrzést át akarjuk-e adni gépi folyamatoknak. Jól beállítva az algoritmusok hatékony, gyors és igazságos döntéseket hoznak. Mai alkalmazásukat tekintve azonban úgy tűnik, hogy ezek az előnyök nem egyenlítik ki azokat a hátrányokat, amelyeket a visszaélések lehetősége, az magánszféra sérelme és a működés átláthatatlansága jelent.