KI-Überwachung
Technologische Gewalt durch Experimente an der Grenze

KI-Überwachung, Drohnen, Iriserkennung: Eine Flucht wird häufig als chaotisch und verwirrend wahrgenommen. Doch viele Staaten und Grenzschutzagenturen wissen genau, wer sich wann wohin bewegt. Die Juristin Petra Molnar ist spezialisiert auf Technologie und Migration und bringt Licht ins Dunkel der technischen Möglichkeiten zur Überwachung von Fluchtbewegungen.

Von Petra Molnar

„Ich hoffe, meine Kinder an einen Ort zu bringen, an dem sie spielen können.“ Die 31-jährige Aisha*, Mutter von drei Kindern, richtet ihren Blick in die Ferne, während sie erzählt, wie sie gemeinsam mit ihren Söhnen einen Pushback überlebte.
 
Die glitzernde Ägäis vor uns ist ein Friedhof im Meer. Aisha hat in ihrer Heimat häusliche Gewalt überlebt und gelangte von Palästina über die Türkei an die griechische Küste. Ein erster Versuch, die Landgrenze am Evros zu überqueren, scheiterte: Sie wurde auf türkisches Staatsgebiet zurückgedrängt. Aus purer Verzweiflung setzte sie ihre Söhne in ein Schlauchboot und machte sich gemeinsam mit einer größeren Gruppe auf den Weg zur Insel Samos. Aisha und ihren Söhnen gelang die sichere Überfahrt, sie konnten Kontakt mit einem örtlichen Anwalt, Dimitris Choulis, aufnehmen, und erfolgreich Asyl beantragen. Alle anderen 28 in ihrer Gruppe hatten nicht so viel Glück, einige Tage später waren sie wieder in der Türkei. Bei einem früheren Pushback vor der Insel Samos 2021 kam ein kleiner Junge ums Leben. Und erst im August 2022 starb Berichten zufolge ein 5-jähriges Mädchen aus Syrien an der griechisch-türkischen Grenze, als ihre Familie versuchte, einen Pushback zu umgehen.

Solche Pushbacks werden immer häufiger durch invasive Technologien unterstützt. Die EU-Grenzschutzagentur FRONTEX ist wegweisend bei der Erkundung vielfältiger Überwachungstechnologien. Sie gibt Studien zum Einsatz von KI in Auftrag und führt Pilotstudien zum Einsatz von Überwachungstechnologien für das Aufgreifen von Personen durch. Doch illegale Zurückweisungen oder „Pushbacks“ verstoßen gegen nahezu das gesamte geschriebene Recht, darunter der Grundsatz der Nichtzurückweisung aus der Flüchtlingskonvention oder die Auffassung, dass ein Unterzeichnerstaat dieser Konvention Menschen nicht in ein Land zurücksenden kann, in dem ihnen Verfolgung oder Gewalt drohen. Vor allem dann nicht, wenn diese Menschen noch keine Gelegenheit hatten, den Flüchtlingsstatus zu beantragen. Doch den glühenden Befürwortern eines immer weitreichenderen Einsatzes von Technologien im Grenzschutz scheint dies keine Problem zu bereiten.

KI-gestützte Lügendetektoren

Zahlreiche weitere EU-finanzierte Projekte schränken die Möglichkeiten, eine Asylantrag zu stellen, immer weiter ein. Im Rahmen von ROBORDER soll beispielsweise ein voll funktionsfähiges autonomes Grenzüberwachungssystem mit unbemannten mobilen Robotern einschließlich Luft-, Wasser-, Unterwasser‑ und Bodenfahrzeugen eingerichtet werden. In der türkisch-griechischen Grenzregion Evros senden Schallkanonen oder Long Range Acoustic Devices (LRADs) schmerzhaft laute Töne aus. Durch den intensiven Einsatz von Technologien verschieben sich die europäischen Grenzen immer weiter nach außen. Dies führt zu einer Externalisierung der Grenzkontrollen, die das Problem des europäischen Migrationsmanagements auf die Schultern anderer Länder verteilt. Mit unmittelbaren und grausamen Konsequenzen: Menschen ertrinken im Mittelmeer oder werden nach Libyen und in die Türkei zurückgedrängt, sogar in Wasserzelten, und jahrelang in heruntergekommenen Flüchtlingscamps wie Moria und auf den Inseln Samos, Chios und Kos eingesperrt. Und auch in diesen Flüchtlingscamps kommen immer mehr Technologien zur Überwachung oder Datenerfassung, Radargeräte, Drohnen und KI-Anwendungen zum Einsatz. In Griechenland werden beispielsweise für Milliarden von Euro fünf neue Camps mit algorithmengesteuerten Überwachungssystemen zur Bewegungserkennung errichtet. Auf Samos und Kos wurden zwei dieser Camps bereits eröffnet. Und trotz des vielen Gelds für Überwachungstechnologien gibt es im neuen Camp auf Samos kein fließendes Wasser, die Lebensmittelversorgung ist unzureichend und die Menschen müssen dort unter schrecklichen Bedingungen leben.
Die 12-jährige Raz protestiert gegen die Eröffnung des neuen Lagers auf Samos im September 2021. | Foto: © Petra Molnar In den vergangenen fünf Jahren habe ich mich mit weiteren Grenzschutztechnologien beschäftigt, die derzeit getestet werden. Im Rahmen des iBorderCRTL-Projekts werden KI-gestützte Lügendetektoren an den Grenzen erprobt. In Flüchtlingscamps werden systematisch biometrische Daten erfasst, unter anderem über Fingerabdrücke und Iriserkennung. Algorithmen entscheiden darüber, ob eine Person interniert wird, und unterstützen sogar die Risikobewertung im Falle einer Deportation. Und die dystopisch anmutenden Roboterhunde, eine Militärtechnologie auf vier Beinen, kommt bereits an der US-mexikanischen Grenze zum Einsatz. Von Griechenland über Arizona und Polen bis nach Kenia nimmt das weltweite Interesse an Grenztechnologien immer weiter zu. Grenzzaun in der Sonora-Wüste zwischen Arizona in den USA und Mexiko – ein technologisches Experimentierfeld. | Foto: © Petra Molnar

Das Milliardengeschäft mit dem Grenzschutz

Orte wie Grenzen bieten sich als Experimentierfelder für neue Technologien an. Hier gibt es nur bedingt Regeln und Aufsicht, und es herrscht eine für Grenzregionen typische „nachlässige“ Haltung. Beides begünstigt die Entwicklung und den Einsatz von Überwachungstechnologien auf Kosten der Menschlichkeit. Die fehlende Regulierung ist kein Zufall: Im Bereich Grenzschutz und Migration besteht ein massives Machtgefälle. Für marginalisierte Gruppen wie Nicht-Bürger*innen, Flüchtlinge und Menschen auf der Flucht gelten häufig weniger strenge Menschenrechtsvorschriften. Außerdem haben sie durch den zunehmenden Einsatz dieser Technologien auch immer weniger Möglichkeiten, ihre Rechte einzufordern. Mächtige Akteure wie Staaten und der Privatsektor rechtfertigen die zunehmende Erprobung von Technologien im Bereich der Migration damit, dass die Erfassung, Verfolgung und Verwaltung von Flüchtlingsbewegungen eine lange Tradition hat.

Außerdem lässt sich mit modernen Grenztechnologien viel Geld verdienen. Für die Entwicklung und den Einsatz neuer Risikotechnologien aus diesem stetig wachsenden milliardenschweren Industriezweig sind Akteure aus dem Privatsektor mit zweifelhafter Menschenrechtsbilanz verantwortlich, darunter zahlreiche israelische Überwachungsfirmen wie Elbit Systems und Cellebrite, Palantir Technologies und Clearview AI, um nur einige zu nennen. Privatunternehmen geben die Agenda für die Migrationskontrolle vor, weil sich Staaten bei der Entwicklung und beim Einsatz von Technologien in diesem Bereich auf den Privatsektor verlassen. Mit dem Ergebnis, dass die staatliche Haftung und Rechenschaftspflicht verwässert und auf den Privatsektor übertragen und vielen Menschen so die Möglichkeit genommen wird, ihre Rechte bei einer Regierung einzuklagen. In diesem Spannungsfeld kommt es zu schweren Verletzungen der Menschenrechte und Grundfreiheiten von Menschen auf der Flucht. KI-Überwachungsturm von Elbit Systems in Arizona, Vereinigte Staaten, im Februar 2022. | Foto: © Petra Molnar

In der Diskussion werden die Perspektiven der am meisten Betroffenen in der Regel nicht berücksichtigt

Letztendlich zielen Technologien zur Migrationssteuerung auf eine Rückverfolgung, Erfassung und Kontrolle von Grenzübertritten ab. Probleme im Zusammenhang mit neuen Technologien im Bereich der Migrationssteuerung ergeben sich nicht allein aus ihrer Nutzung, sondern auch daraus, wie und durch wen ihr möglicher und schwerpunktmäßiger Einsatz nach Maßgabe staatlicher Behörden und privater Akteure erfolgt.

Technologie bildet gesellschaftliche Machtstrukturen ab. Auch wenn über die Ethik von KI diskutiert wird, reichen ethische Grundsätze allein nicht aus, weil sie kulturell kodiert sind und auch dazu dienen können, bewusst in Kauf genommene kollektive, systematische Regelverletzungen zu vertuschen. Dabei geht es darum, den Einsatz von Technologien zur Migrationssteuerung an und in der Umgebung von Grenzen zu beenden, weil sie einen systemischen Rassismus begünstigten, sich traditionell auf die Überwachung routinemäßig marginalisierter Gruppen konzentrieren und ein grausames Panoptikum der Überwachung schaffen, in dessen Fänge Menschen wie Aisha geraten. Unglücklicherweise werden die Perspektiven der am meisten Betroffen in der Diskussion in der Regel nicht berücksichtigt, insbesondere wenn es um die Problematik der No-Go-Zones oder den moralisch bedenklichen Einsatz von Technologien geht.

Nicht weit von mir entfernt plantscht ein kleiner Junge in den Wellen der Ägäis. Ich frage mich, ob den Urlauber*innen in Griechenland bewusst ist, dass nur wenige Minuten von diesem Strand entfernt das Schicksal anderer kleiner Jungen von den Launen der EU abhängt. Oder – eine noch viel schlimmere Vorstellung – sie den sicheren Strand womöglich niemals lebend erreichen. Für Aisha und ihre Söhne waren die gnadenlosen technologischen Experimente nur eine Etappe auf ihrem Weg durch eine grausame globale Migrationsmaschinerie.

*Namen und Erkennungsmerkmale wurden geändert. Wiedergabe der Geschichte mit freundlicher Genehmigung*