Algorithmic Governance
Die totale Überwachung

Algorithmen, die anhand von gesammelten Daten die Bürger eines Landes belohnen oder bestrafen – in China oder Indien ist die sogenannte Algorithmic Governance längst Realität. Aber auch in Deutschland treffen Computerprogramme schon Entscheidungen, die für viele Menschen Konsequenzen haben.

Von Arne Cypionka

Die Kreuzung südlich der Changhong-Brücke in der chinesischen Millionenstadt Xiangyang ist überfüllt und chaotisch. Autos hupen, Fußgänger überqueren die Straße bei roter Ampel und Elektroroller schlängeln sich durch den Stau. Neben der Straße hängt ein großer Bildschirm mit zahlreichen Porträtfotos. Nur eine der zahlreichen Werbetafeln? Nein. Die Polizei hat den Monitor im Jahr 2017 angebracht, um für Ordnung zu sorgen. Er zeigt die Gesichter derjenigen, die hier gegen die Verkehrsregeln verstoßen haben – und von den Kameras mit automatischer Gesichtserkennung entdeckt wurden. Es gehe darum, „sie vor ihren Nachbarn und Kollegen zu blamieren“, sagte eine Sprecherin der Stadt gegenüber der New York Times. Neben den Fotos der Angeprangerten stehen ihre Namen und Personalausweisnummern. Eine Erziehungsmaßnahme.
 
Bildschirme wie der in Xiangyang sind nur ein kleiner Teil des Überwachungs- und Kontrollapparats der Regierung. Für ihr neues Sozialkredit-System hat die Kommunistische Partei in den vergangenen Jahren in mehreren Städten Pilotprojekte gestartet, in denen sie Daten von Überwachungskameras, aus privaten Chats, Online-Einkäufen und vielem mehr sammelt und miteinander in Verbindung setzt. Ziel ist es, sämtliche Bewohner des Landes bis 2020 in einem einzigen Bewertungssystem zu registrieren. Mit einem riesigen Rechenaufwand wird so schließlich jeder Chinese eine Punktzahl erhalten, die von Computeralgorithmen ständig aktualisiert wird. Für die autoritäre Regierung scheint der Schritt naheliegend – so kann jeder Einzelne der 1,4 Milliarden Chinesen individuell kontrolliert werden.

Kontrolle und Strafe per Algorithmus

Von Algorithmic Governance spricht man, wenn sich Regierungen oder Behörden die riesigen Datenströme aus den Sozialen Medien und von anderen Plattformen zunutze machen – und die Entscheidung, ob ein Bürger ausgehend von diesen Daten belohnt oder bestraft wird, an Maschinen übertragen. Computer erkennen Muster und Routinen und setzen Disziplinarmaßnahmen automatisch um: Wer sein Leihfahrrad unbeschädigt zurückgibt, keine roten Ampeln überquert und stets pünktlich zur Arbeit erscheint, wird mit Punkten belohnt. Wer hingegen online die chinesische Politik kritisiert oder, auch das genügt schon, vermehrt Kontakt mit schlecht bewerteten Personen hat, muss zusehen, wie sein Punktestand stetig sinkt. Das hat drastische Konsequenzen: Menschen mit niedrigem Score wird beispielsweise der Zugang zu Flugzeugen und Hochgeschwindigkeitszügen verweigert. Oder ihren Kindern der Besuch von Privatschulen.
 
Die Menschen eines Landes so genau zu überwachen, sämtliche Informationen über sie zu sammeln und gegen sie zu verwenden, ist nicht nur ein Angriff auf die Privatsphäre, sondern stellt auch eine erhebliche Einschränkung der persönlichen Freiheitsrechte dar. Doch nicht nur in China werten die Behörden persönliche Daten aus – auch in Indien versucht man mit individueller Registrierung den Überblick über die Bevölkerung zu bekommen.
 
Unter dem Namen Aadhaar („Fundament“) wurde eine Datenbank angelegt, die mit mittlerweile 1,2 Milliarden registrierten Nutzern den Großteil der indischen Bevölkerung umfasst. Mit einer zwölfstelligen Nummer, der jeweils Name, Alter, aber auch eine Aufnahme der Iris und sämtliche Fingerabdrücke zugeordnet sind, kann sich nun jeder zweifelsfrei ausweisen und beispielsweise Sozialleistungen beantragen – soweit zumindest die Theorie. Die indische Journalistin Rachna Khaira zeigte Anfang des Jahres die Schwächen des Systems auf: Sie trat mit Hackern in Kontakt, die ihr für nur 500 Rupien, umgerechnet etwa sechs Euro, Zugang zur kompletten Datenbank verschafften. Die Aadhaar-Datenbank, die ungerechte Verteilung und Betrug bei der Verteilung von Lebensmittelhilfen verhindern sollte, erweist sich zunehmend als Problem. Es sollen bereits Menschen verhungert sein, weil sie keine Dokumente vorlegen konnten oder die biometrische Erkennung nicht funktionierte. Außerdem führen Lecks zur Veröffentlichung von Millionen von Datensätzen.

Frauen registrieren sich in Indien für die Aadhaar-Datenbank. | Foto (Zuschnitt): © picture alliance / NurPhoto

Zeit für eine Daten-Debatte in Europa

Auch in Europa ist der Einsatz von Algorithmen zur Datenanalyse nicht außergewöhnlich. Anders als in den riskanten Experimenten der beiden bevölkerungsreichsten Länder der Erde – China und Indien – sind es allerdings nicht unbedingt staatliche Akteure, deren Computer mit großen Mengen persönlicher Daten agieren. In Deutschland gibt es beispielsweise die Schutzgemeinschaft für allgemeine Kreditsicherung, besser bekannt als Schufa. Die Schufa gibt an, 864 Millionen Informationen zu gut 67 Millionen Menschen und 5 Millionen Unternehmen zu speichern. Wie genau der Prozess funktioniert, der am Ende mit darüber entscheiden kann, ob jemand eine Wohnung mieten darf oder einen Handyvertrag bekommt, ist geheim. Auch die Kriterien der Schufa sind unbekannt. Es gibt Anzeichen dafür, dass beispielsweise Frauen in der Bewertung benachteiligt werden.
 
Deutschland ist weit davon entfernt, Verkehrssünder auf Bildschirmen an den Pranger zu stellen. Und dennoch stellt sich die Frage: In welchem Umfang sollen Unternehmen wie die Schufa oder staatliche Behörden Daten sammeln und nutzen dürfen? Es ist an der Zeit, die Legitimität von Algorithmic Governance zu diskutieren. Letztendlich geht es um die Frage, ob man Kontrolle über die Gesellschaft an Maschinenprozesse übergeben will. Richtig eingestellt könnten Algorithmen effizient, schnell und fair Entscheidungen treffen. Wenn man jedoch ihren gegenwärtigen Einsatz betrachtet, scheinen diese Vorteile das riesige Missbrauchspotenzial, den Eingriff in die Privatsphäre jedes Einzelnen und die Intransparenz der Prozesse kaum aufzuwiegen.