KI & Überwachung  Künstler zwingen uns zur Auseinandersetzung mit der Überwachung

In einer Zeit von sozialer Distanzierung und Massenprotesten weiten nicht nur Staaten den Einsatz von Technologie zur Überwachung ihrer Bürger aus. Machen wir uns nichts vor: Wir alle haben begonnen, einander genauer zu beobachten.

Gegenwärtig machen die Vereinigten Staaten zwei Krisen durch: die Covid-19-Pandemie und die Proteste gegen Polizeigewalt. Die amerikanische Regierung greift im Namen von Gesundheit und Sicherheit der Bürger auf technologische Lösungen zurück, um beide Krisen zu bewältigen. Die Sicherheitskräfte setzen alles von Drohnen bis zum Belauschen der sozialen Medien ein, um die Proteste im Auge zu behalten. Gleichzeitig haben sich Regierungen in aller Welt im Kampf gegen das Virus mit Techfirmen zusammengetan, um Apps zur Verfolgung der Kontakte ihrer Bürger zu entwickeln.
 
Rund um den Erdball werden interessierten privaten und öffentlichen Akteuren technologiegestützte Lösungen für das Krisenmanagement angeboten. Einst firmeneigene Überwachungswerkzeuge verwandeln sich in populäre Konsumprodukte, und Techfirmen versuchen, unsere Ängste auszunutzen. So wird die Überwachung eines Bürgers durch den anderen zu einer weiteren vom Smartphone ermöglichten Gewohnheit. Aber was geschieht, wenn wir einander zunehmend beobachten und bereit sind, uns von anderen beobachten zu lassen? Die Kunst hilft uns, uns ein Bild von den Konsequenzen dieses Verhaltens zu machen.

Würden Sie einen Fußgänger melden, der bei Rot über die Ampel geht?

Die öffentliche Debatte über viele dieser Fragen hatte noch nicht begonnen, als sich der belgische Künstler Dries Depoorter bereits mit den Auswirkungen der Bürgerüberwachung beschäftigte. In seiner Installation Jaywalking (2015) kann sich der Betrachter Live-Aufnahmen von Verkehrskameras an Kreuzungen ansehen. Sieht er einen Fußgänger, der bei Rot über die Straße geht, so kann er den Übeltäter melden, indem er einen Knopf drückt: Es wird automatisch und anonym ein Screenshot an die nächstgelegene Polizeiwache geschickt. Jaywalking konfrontiert das Publikum sehr direkt mit einem fast instinktiven Dilemma: Sollen wir unsere neuen Machtmittel im Namen des bürgerlichen Pflichtbewusstseins einsetzen? Wo ist die Grenze zwischen Denunziantentum, Sicherheitsbedürfnis und Überwachung? Depoorter spielt in seiner Arbeit mit der Tatsache, dass wir uns daran gewöhnen, nicht länger nur vor, sondern zunehmend auch hinter der Kamera zu stehen. Er fordert uns auf, die Konsequenzen und Pflichten abzuwägen, die diese Macht mit sich bringt.
 
Die Beobachtung ahnungsloser Fußgänger, die sich nicht an die Verkehrsregeln halten, fühlt sich beinahe unerlaubt an, aber mittlerweile kann sich fast jeder Bürger seine eigene Überwachungsausrüstung bei Amazon kaufen, die sogar von Amazon hergestellt wird. Das Heimsicherheitssystem Ring, das im Jahr 2018 von Amazon übernommen wurde, ermöglicht es Eigenheimbesitzern, ihre eigenen „Videotürklingeln“ mit Bewegungserfassung zu installieren und den Raum vor ihrer Haustür aus der Ferne zu überwachen. Das Produkt wird als Einrichtung angepriesen, welche die Bequemlichkeit erhöhen soll, aber in der Werbebotschaft klingt an, dass unsere Nachbarn eine potentielle Gefahr darstellen: „Vor deiner Haustür passiert viel.“ Auf der Ring-Website wird mit tatsächlichen Ring-Videoaufnahmen geworben, in denen (vermeintliche) Diebe und Vandalen auf frischer Tat ertappt werden. Und diese Aufnahmen sind nicht nur für Hauseigentümer nützlich: Ring behält sich das Recht vor, auf sämtliche Daten und Videos zuzugreifen, und es gibt Berichte darüber, dass das Unternehmen das Material auch den Strafverfolgungsbehörden für die Jagd auf Straftäter zur Verfügung stellt. Dries Depoorter's „Jaywalking“-Installation beim Mirage-Festival, 2019 | Foto: © Marion Bornaz

Anschleichen im Schatten

Die amerikanische Künstlerin Lynn Hershman Leeson beschäftigte sich schon in ihrer frühen Arbeit in den siebziger Jahren mit der Überwachung. In ihrer neuesten Installation Shadow Stalker (2018–21) spürt sie der Frage nach, was geschieht, wenn wir die Beobachtung und Überwachung unserer Gesellschaft der Technologie überlassen. Beim Betreten der Installation geben die Besucher ihre E-Mail-Adresse an, und ein Algorithmus erzeugt ausgehend davon ihren „digitalen Schatten“, der auf eine Wand projiziert wird – es wird klar, wie viel persönliche Informationen über jede Person anhand dieses einen Datenpunkts im Internet beschafft werden können. Auf einem anderen Bildschirm sind Karten zu sehen, auf denen bestimmte Gegenden rot markiert sind, was zeigt, dass es sich vermutlich um Zonen mit hoher Verbrechensrate handelt. Die Karten werden anhand von Predictive-Policing-Technologie erstellt – dies sind proprietäre Algorithmen, die von der Polizei eingesetzt werden, um vorauszusagen, wo es wahrscheinlich zu Verbrechen kommen wird. Shadow Stalker führt dem Durchschnittsbürger vor Augen, wozu Techfirmen und Behörden in der Lage sind, die unsichtbare Technologie einsetzen können, um unsere Bewegungen zu verfolgen, uns zu beaufsichtigen und zu überwachen.
 
Hershman Leeson studierte die Mechanismen der Überwachung bereits, als es solche High-Tech-Lösungen noch überhaupt nicht gab. In ihrem frühen interaktiven Kunstwerk Lorna (1979–84) zeigt sie dem Betrachter Videoaufnahmen von der fiktiven Person Lorna in ihrer Wohnung. Wir erfahren, dass sich Lorna davor fürchtet, das Haus zu verlassen, weil sie zu viele beängstigende Bilder im Fernsehen gesehen hat. Per LaserDisc-Technologie kann der Betrachter Lornas Gespräche mithören und bestimmte Geräte in ihrer Wohnung steuern, darunter Fernsehgerät, Spiegel und Telefon. In dieser Arbeit scheint die Künstlerin die „intelligenten“ Haushaltsgeräte der Gegenwart vorweggenommen zu haben. Lynn Hershman Leesons "Lorna" von 1979 | © Lynn Hershman Leeson / Hotwire productions LLC Die amerikanische Künstlerin Lauren Lee McCarthy hat mit Someone (2019) die fiktive Lorna in die Realität geholt, bietet uns jedoch eine etwas weniger düstere Vision an. In dieser Arbeit erhält der Betrachter Zugang zu Laptops, auf denen Livebilder und Tonaufnahmen aus den Wohnungen von vier Personen gezeigt werden. Die vier Freiwilligen haben McCarthy die Erlaubnis gegeben, ihre virtuellen Heimassistenten durch Mikrofone und Kameras zu ersetzen, auf die die Galeriebesucher zugreifen können. Die vier Personen können mit den Besuchern sprechen, ohne sie jedoch zu sehen. Wenn einer der Freiwilligen etwas braucht, ruft er einfach nach „jemandem“, und die Galeriebesucher können mit ihm interagieren oder „Hilfe“ anbieten, indem sie seine Lampen, Musikanlagen und andere Geräte im Haushalt ein- oder ausschalten.
 
Das vordergründige Ziel von McCarthys Arbeit ist es, den Betrachter in „eine menschliche Version von Amazon Alexa“ zu verwandeln – ihn in die allmächtige Position zu versetzen, durch die Linse eines intelligenten Haushaltsgeräts alles sehen und hören zu können. Aber dass man den Freiwilligen zusieht und darauf wartet, dass sie „jemanden“ um Hilfe bitten, wird rasch zu einer Entschuldigung für die Überwachung dieser Fremden in ihrem eigenen Haus. So erzeugt McCarthy dasselbe unangenehme Gefühl des Voyeurismus wie Depoorter in Jaywalking. Jemand ist auch ein Symbol dafür, wie bereitwillig wir diese Art von Überwachung in unsere Häuser lassen, wenn wir glauben, dass sie von neutralen, körperlosen Maschinen ausgeht. Die Frage ist, wer in diesem dynamischen Austausch zwischen Beobachter und Beobachtetem, zwischen Maschine und Mensch wirklich die stärkere Machtposition innehat.

Vernetzte Nachbarschaftswache

Wenn es um die Normalisierung der passiven – oder aktiven – Beobachtung unserer Mitbürger geht, gibt es vielleicht kein besseres modernes Beispiel als die App Nextdoor. In den Monaten seit Beginn der Pandemie ist die Popularität von Nextdoor in den Vereinigten Staaten deutlich gestiegen. Die App wird als Werkzeug zur Stärkung der Nachbarschaftsbeziehungen beworben – sie soll eingesetzt werden, um „Neuankömmlinge willkommen zu heißen, Empfehlungen auszutauschen und lokale Neuigkeiten weiterzugeben“ –, aber sie wird auch gerne verwendet, um Nachbarn „zu verpfeifen“; außerdem begünstigt sie das ethnische Profiling. Um auf den Missbrauch der App hinzuweisen, wurde ein Twitter-Account eingerichtet, in dem alles vom Empörenden (Leute bezeichnen ihre schwarzen Nachbarn als „verdächtig“) bis zum Lächerlichen dokumentiert wird (eine Benutzerin fordert ihre Nachbarn auf, nach acht Uhr abends bitte ihre Autos nicht mehr zu verschließen, weil sie sich von diesem „Piep-Piep-Geräusch“ gestört fühlt). Bis vor kurzem beinhaltete die App die Funktion „Der Polizei melden“, die dem Benutzer die Möglichkeit gab, seine Beobachtungen verdächtiger Aktivitäten direkt an die Polizei weiterzugeben. Die Beliebtheit von Nextdoor verdeutlicht, wie Technologie – absichtlich oder unabsichtlich – die Wachsamkeit in etwas Gefährlicheres verwandeln kann. Lauren Lee McCarthys „Someone“-Projekt erlaubt den Zuschauern einen Einblick in vier Privatwohnungen | Foto: © Stan Narten In der Vergangenheit funktionierten Überwachungsnetze und -infrastrukturen weitgehend im Hintergrund oder wurden versteckt. Mittlerweile sind wir sichtbare Bestandteile dieser Systeme. In User Flow versucht Valia Fetisov, dem Betrachter eine Erfahrung zu vermitteln, die in der Gesellschaft der Zukunft Realität werden könnte, wenn wir weiterhin Systeme für soziale Kontrolle einsetzen, um Krisen zu bewältigen. Beim Betreten dieser Installation wird der Besucher aufgefordert, sich zuerst einer Leibesvisitation und anschließend einer psychologischen Beurteilung zu unterziehen; abschließend wird er mit einem Monitor konfrontiert, der mit einer 3D-Kamera und einem künstlichen neuronalen Netz mit Gesichtsausrichtung ausgestattet ist, das ihn auffordert, näher zu treten, damit es ihm eine Flüssigkeit in den Mund sprühen kann.
 
User Flow veranschaulicht, wie Überwachungs- und Kontrollsysteme, die wir als selbstverständlich betrachten – etwa die Sicherheitskontrolle am Flughafen oder die Identifizierung per Gesichtserkennung – repressiv werden können, vor allem, wenn sich diese Systeme auf Technologie stützen. „Die Warteschlange und die Durchsuchung sind für alle Betroffenen sichtbar, damit das Verhalten bei der Durchsuchung normalisiert wird, aber es geht auch darum, Fürsorge zu demonstrieren und die Idee des „In-Sicherheit-Seins“ zu dramatisieren”, schreibt Festov in einem Artikel über User Flow. „Die Frage ist: „Können wir Systemen vertrauen, die unsere Beziehungen zueinander quantifizieren und eine neue gesellschaftliche Ordnung schaffen? Oder werden das Design dieser Systeme, ihre Performanz  und ihre soziale Normalisierung so dominant werden, dass sie uns unsere Entscheidungen abnehmen können?”
 
Festov lotet die grundlegende Frage aus, mit der wir heute konfrontiert sind: Womit wollen wir uns – insbesondere in einer Krise – im Interesse unserer Gesundheit und Sicherheit abfinden, und was könnte geschehen, wenn die entsprechenden Maßnahmen auch aufrecht bleiben, nachdem die Krise überwunden ist?

Dieser Artikel ist ein Teil von Kulturtechniken 4.0, einem Webprojekt des Goethe-Instituts in Australien, das sich mit dem Zusammenspiel von künstlicher Intelligenz und traditionellen Kulturtechniken befasst. 

Oktober 2020