Ohne Zeile im Kode bist du ein Niemand: wie Algorithmen die Staatsangehörigkeit ändern

Heutzutage ist die Staatsangehörigkeit, mit allen entsprechenden Rechten und Pflichten, ein Teil unseres Alltagslebens. In dem Maße, wie Technologien zu einem Teil unserer Routine werden, ändern sie unmerklich ihren scheinbar dauerhaften Aspekt - wer wir für die Staaten, denen wir angehören, sind.

Von Dmitrij Murawjow

Unsere bürgerlichen Rechte und Pflichten wurden früher mit Objekten in Verbindung gebracht, die zum Zeitpunkt ihres Erscheinens als Technologien wahrgenommen wurden: das sind Geburts- und Sterberegister, Ehe- und Scheidungsregister, Reisepässe, Führerscheine, Sozialversicherungs- und Steuerkarten. Heute können auch neue digitale Technologien in diese Liste aufgenommen werden. In diesem Text versuchen wir zu verstehen, wie Algorithmen die Bürger politisch beeinflussen und unsere Beziehungen mit dem Staat verändern.

Eine kurze Geschichte der Staatsbürgerschaft: vom 18. bis zum 20. Jahrhundert

Eine Neuerung kann nicht ohne eine Vorstellung über das Bisherige gesehen werden, daher werde ich kurz darauf eingehen, wie sich das Verständnis von Staatsbürgerschaft im Laufe der Geschichte verändert hat. Ich werde mich der in der Politikwissenschaft und anderen Sozialwissenschaften einflussreichen Typologie des Forschers Thomas Humphrey Marshall bedienen, die von ihm in seiner Arbeit „Staatsbürgerschaft und Sozialklasse“ vorgeschlagen wurde.

Er analysierte die Geschichte Großbritanniens und schlug vor, zwischen drei Arten von Rechten und entsprechenden Pflichten zu unterscheiden: bürgerliche, politische und soziale. Für ihn haben diese Typen entsprechend im XVIII., XIX. und XX. Jahrhundert verfestigt. 

Unter Bürgerrechten versteht Marshall das Recht auf Persönlichkeits-, Rede-, Gedanken- und Religionsfreiheit, Eigentum, Vertragsabschluss und ein gerechtes Gerichtswesen und unter politischen Rechten – Teilnahme an dem politischen Leben in der Rolle des Wahlberechtigten oder Repräsentanten. 

Das soziale Element der Staatsbürgerschaft taucht später auf und beinhaltet die Idee, dass Bürger nicht nur Eigentümer einer Reihe von Freiheiten und Teilnehmer am politischen Leben sind. Nun müssen sie auch ein „zivilisiertes Leben“ haben, das Recht auf einen minimalen wirtschaftlichen Wohlstand und Sicherheit haben.

Das Entstehen und Festigen von jedem dieser drei Zustände ist für Marshall von der Bildung entsprechender Institutionen begleitet. Für bürgerliche Rechte und Pflichten sind dies die Gerichte, für politische - Parlamente und lokale Behörde, für soziale - allgemeine Bildung und soziale Dienste.

Der Staat und „wir“ nach den Algorithmen

Im 21. Jahrhundert werden digitale Technologien auf bürgerliche, politische und soziale Elemente „geschichtet, sie verändern dabei ihren Inhalt. Dies geschieht nicht im Alleingang, sondern unter Beteiligung von Staaten, internationalen Organisationen und kommerziellen IT-Unternehmen. 

So begründen viele Länder, darunter Estland, Finnland, Frankreich, Griechenland, Indien, das Recht auf Zugang zum Internet bereits als soziales Grundrecht.  Das Internet breitet sich zunehmend aus und verwandelt sich in Infrastrukturen des täglichen Lebens, und Staaten sind, oft unabhängig von den Wünschen der Bürger, bereit, dieses neue, digitale Element der Staatsbürgerschaft einzuführen. Die Forscherin Marion Fourcade nennt es „Ordnungsstaatsbürgerschaft“ – sie ist aktiv an die Datenverarbeitung, Klassifikation und den Einsatz statistischer Analyseverfahren gebunden. 

Dieser Prozess hat einen erheblichen Nachteil – er begleitet soziale Ungleichheit. So wie die Einführung der allgemeinen Bildung neue Unterschiede zwischen den Bürgern in Bezug auf soziale Mobilität, Wissen und Möglichkeiten hervorgebracht hat, unterscheiden Algorithmen jetzt durch die Schaffung neuer Hierarchien. 

Die Abhängigkeit der politischen Rechte eines Bürgers vom Betrieb automatisierter Systeme wird im Fall des chinesischen Systems des „sozialen Kredits“ besonders deutlich. Es soll Menschen nach den algorithmischen Metriken eines „guten Bürgers“ bewerten: ob eine Person die Gesetze einhält, Bußgelder zahlt und Verträge einhält. Durch die Neudefinition der Beziehung zwischen einer Person und einem Staat, wie Marion Fourcade und Jeffrey Gordon anmerken, wird die volle Staatsbürgerschaft zu etwas, das man sich verdienen muss. Zweifellos ist das chinesische System nicht so monolithisch, perfekt und total, wie es oft beschrieben wird, aber es schafft bereits ein neues Verständnis von der Staatsbürgerschaft. 

Soziale Abgaben und Armutsmaschinen

Es mag den Anschein haben, dass solche Geschichten nur auf politisch autoritäre Länder beschränkt sind, aber das ist nicht der Fall. Das im 20. Jahrhundert gebildete soziale Element der Staatsbürgerschaft hängt heute auch in vielen Demokratien von Algorithmen ab. Während demokratische Institutionen dazu beitragen, das Problem sichtbarer und seine Folgen beherrschbar zu machen, kann man nicht sagen, dass sie die Folgen des Technologieeinflusses auf den Personenzustand vollständig bewältigen können. 

So veröffentlichte The Guardian im Jahr 2019 beispielsweise eine Artikelserie „Automating Poverty“, die zeigte, wie die Verteilung von sozialen Abgaben durch algorithmische Systeme dazu führt, dass Menschen ohne Benachrichtigung Abgaben verweigert werden. Diese Entscheidungen scheinen von selbst, automatisch, ohne die Möglichkeit einer Basiskontrolle, einer öffentlichen Debatte oder Rechenschaftspflicht getroffen zu werden. 

Die Probleme beschränken sich nicht auf die Unvollkommenheiten einzelner Systeme – diese Artikelserie beschreibt ähnliche Probleme in Großbritannien, den USA, Australien und Indien. Die Guardian-Journalisten sammelten auch Monologe von Briten, denen automatisiert die Sozialhilfe verweigert wurde. Daraus wird es klar, zu welchen kritischen Konsequenzen die Algorithmisierung der Staatsbürgerschaft führen kann – zu Stress, Hunger, Obdachlosigkeit. 

Zu ähnlichen Ergebnissen kommt die amerikanische Politikwissenschaftlerin Virginia Eubanks in ihrem Buch „Automating Inequality“. Sie untersuchte drei Fälle – das Sozialwesen in Indiana, ein Hilfsprogramm für Obdachlose in Los Angeles und das Kindersozialwesen im Bezirk Allegheny. Der Grundgedanke ihrer Arbeit ist wie folgt: die Algorithmen, die den Armen helfen sollten, verschlechtern ihre wirtschaftliche Situation sogar noch weiter. Eubanks nennt diesen Einsatz von Algorithmen zur Bereitstellung sozialer Dienste ein „digitales Armenhaus“ (digital poorhouse).     

Nicht-Staatsbürger (0) / Staatsbürger (1)

Schließlich hängt der Status eines Bürgers jetzt von einer algorithmischen Bewertung ab. Das wissen wir aus Dokumenten, die dank der Enthüllungen von Edward Snowden im Jahr 2013 öffentlich wurden. Einer der Algorithmen bewertete also die Staatsbürgerschaft von Internetnutzern anhand ihrer Online-Aktivitäten: wenn der Indikator unter 50% lag, wurde die Person als Ausländer betrachtet. Dies ermöglichte der CIA, solche Benutzer legal zu verfolgen, da die Menschen die formalen Schutzprivilegien verloren, die ein amerikanischer Pass bietet. Der Forscher John Cheney-Lippold nennt diese Art der Staatsbürgerschaft jus algorithmi: war sie früher durch das Abstammungsrecht (jus sanguinis) oder Recht des Bodens (jus soli) bestimmt, hängt sie heute zunehmend von Technologien ab – die uns oft verborgen bleiben.  

Die Zukunft der Staatsbürgerschaft als Status kann sehr unterschiedlich sein. Einerseits kann man versuchen, alte Bestandteile der Staatsbürgerschaft zu schützen. Andererseits kann man sich ein Bild vorstellen, in dem gesellschaftlich unerwünschte Diskriminierung durch Algorithmen dank Veränderungen in der digitalen Staatsbürgerschaft selbst abnehmen wird. Wenn man bedenkt, wie sehr sich Staat und Wirtschaft – gemeinsam und getrennt – an der Förderung neuer Formen digitaler Bürgerschaft beteiligen, hängt der Erfolg solcher politischen Projekte offenbar maßgeblich vom demokratischen Charakter politischer Institutionen ab. Es ist zu erwarten, dass sich unsere zivilen Beziehungen zu Staaten in Zukunft ändern werden – mit oder ohne uns.

Das Material wurde in Zusammenarbeit mit dem Projekt Supernova vorbereitet.