AI Autumn Session Glasgow 2019
KI; aus welcher Perspektive?

Welchen Einfluss hat Kunst auf unsere Einstellung gegenüber KI und darauf, wie wir sie nutzen? Wie können Künstler*innen, die mit KI arbeiten, diesen komplexen Fragestellungen begegnen? Im Rahmen der „AI Autumn Session“ traf sich eine Gruppe von Künstler*innen und Forscher*innen im Oktober 2019 am Goethe-Institut Glasgow, um sich mit einer zentralen These auseinanderzusetzen: alternative Möglichkeiten der Auseinandersetzung mit KI müssen gefunden werden, die sich der kapitalistischen und kolonialistischen Logik entzieht, die den Einsatz von KI derzeit bestimmt. Darüber hinaus ging es um die wichtige Rolle der Kunst bei der Entwicklung neuer Ansätze.

Von Lucy Rose Sollitt

Künstliche Intelligenz verfügt über enorme Fähigkeiten, das Leben von Menschen positiv zu beeinflussen, beispielsweise was die Erkennung und Bekämpfung von Krankheiten betrifft. In zu vielen Fällen bestimmen heute jedoch Konzerne und Regierungsbehörden, die nur begrenzt rechenschaftspflichtig sind, über die Entwicklung und Nutzung der KI. Es herrscht die Logik des Kapitalismus und Kolonialismus, nach der nur einige wenige Gewinner auf Kosten anderer von den Vorteilen profitieren. Wenn die Gesichtserkennung oder Prognosen über das Schicksal einzelner Menschen an Grenzübergängen, Deepfakes, die das politische Geschehen beeinflussen, Wetware oder Pflegeroboter ausschließlich innerhalb der engen Logik von Effizienz, Profit und Macht zum Einsatz kommen, kann KI repressive Systeme unterstützen, Gewalt ausüben und sogar unsere eigene Automatisierung befördern. Zudem ist die Fetischisierung der KI als Technologie, die sich durch die Unergründlichkeit ihrer Blackbox-Mechanismen auszeichnet, weit verbreitet. Die daraus enstehende Ehrfurcht der "Nutzer*innen" vor KI erzeugt Ablenkungen, die häufig mit einem Gefühl der Ohnmacht einhergehen, keinen Einfluss auf die KI zu haben.

In den letzten Jahren ist es in zahlreichen Fällen zu Gefahren durch unausgereifte und einseitige KI-Anwendungen gekommen. Als Beispiel lässt sich die offenkundige rassistische Voreingenommenheit bei der vorausschauenden Überwachung oder Risikobewertung von Straftätern im US-Justizsystem anführen. Derartige Vorfälle zeigen, in welcher Weise die KI als politischer, wirtschaftlicher und sozialer Brandbeschleuniger auftreten kann. Mittlerweile existieren zahlreiche ausgezeichnete Initiativen von NRO, Aktivist*innen und Denker*innen, die sich dieser Problematik annehmen, darunter beispielsweise The Ethical Tech Society oder AI Now. Und es werden ständig mehr. Wie also können Künstler*innen, die mit KI arbeiten, diesen komplexen Fragestellungen begegnen? Welchen Einfluss hat Kunst auf unsere Einstellung gegenüber AI und darauf, wie wir sie nutzen?

Kunst kann ein tieferes poetisches Verständnis für die Zusammenhänge und die Bedeutung unserer positiven wie negativen Interaktion mit der KI auslösen. Auf diese Weise kann die Kunst einen wichtigen Beitrag dazu leisten, dass wir eine intensivere und möglicherweise auch gleichberechtigtere Beziehung zur KI aufbauen können. Künstler*innen führen die Technologie an ihre Grenzen, decken Entwicklungsmängel auf und/oder zelebrieren diese, erforschen und entwickeln ihre Ästhetik weiter, stellen die ihrem Design und ihrer Umsetzung zugrundeliegende Technopolitik auf den Prüfstand, setzen sich mit ihren unerwarteten Ergebnissen oder allgemeinen philosophischen Implikationen auseinander. Kurz gesagt kann Kunst einen fruchtbaren Nährboden bieten, die vorherrschende Logik infrage zu stellen und alternative Denkentwürfe mit Blick auf die KI und ihre Nutzung zu entwickeln.
 
Genau dazu sollten die Teilnehmer*innen der „AI Autumn Session“ in die Lage versetzt werden. Dafür wurde ein doppelter Ansatz verfolgt: Zum einen sollte das Bewusstsein für die problematischen Aspekte von KI geschärft werden – das Design der Schnittstelle und die technopolitischen Zusammenhänge der digitalen Infrastrukturen, innerhalb derer sie zum Einsatz kommt. Zum anderen sollte ein poetisches Verständnis für diese die Paradigmen bestimmende Technologie gefördert werden. Neben Präsentationen und Workshops von Teilnehmer*innen zu KI, lieferten auch Künstler*innen, Wissenschaftler*innen, Akademiker*innen und Denker*innen weitere Perspektiven und Themenschwerpunkte, von denen im Folgenden einige genauer betrachtet werden:

Der Teufel steckt im Detail

Eine grundlegende Auseinandersetzung mit der Entwicklung und dem Einsatz von KI kann ausgesprochen aufschlussreich sein.
 
Mit eleganten Schnittstellen lässt sich das Innenleben von Technologien geschickt verbergen. Jene Prozesse der Zuordnung und Kategorisierung von Datensätze hat die Künstlerin Anna Ridler gründlich, fast forensisch, analysiert. Auf diese Weise konnte sie die menschliche Arbeit in den Datensätzen sichtbar machen, und konnte verdeutlichen wie implizite Entscheidungsprozesse unbeabsichtigt (oder beabsichtigt) Vorurteile und die Bevorzugung bestimmter Personen begünstigen können.

In der Glasgow Women’s Library, einer Einrichtung für die Verbreitung marginalisierter Geschichten, traf Ridler die Designerin und Künstlerin Caroline Sinders zu einer ausführlichen Diskussion über die Frage, wie Empathie und diverse Perspektiven in den Designprozess von KI-Tools eingebunden werden können, um die KI gerechter und effizienter zu gestalten. Eine gründliche Analyse von Patentanwendungen für KI-basierte Produkte (von Kaffee servierenden Drohnen bis hin zu Remote Parenting) im Rahmen eines Workshops des Künstlerinnen-/Designerinnen-Duos Studio Legrand Jäger beleuchtete zudem die Motivationen, die den von uns heute genutzten Produkten zugrunde liegen. Darüber hinaus wurde ein eindrucksvolles Bild von dem Wettrennen zwischen Unternehmen wie Microsoft und IBM um eine Monetarisierung der Technologie vermittelt.

Umsichtiges Vorgehen versus schnelle „Lösungen“

Das Wettrennen um den Einsatz von KI zwischen Technologie-Startups und etablierten Unternehmen beruht häufig eher auf einem technologischen Solutionismus als auf einer ausführlichen Beschäftigung mit den Bereichen, in die man vordringen will.
 
Burkhard Schafer, Professor für computerrechtliche Theorie, demonstrierte mit seiner Untersuchung der Automatisierung juristischer Prozesse, wo die Tücken derartiger Ansätze liegen. Schafer nahm die Teilnehmer*innen mit auf eine Reise durch die mehrere Jahrhunderte währende komplexe Entwicklung von Rechtssystemen und machte deutlich, dass hart erarbeite moralische und ethische Grundsätze nicht einfach durch kurzfristig entwickelte KI-Lösungen im Bereich des Rechts ersetzt werden können.

Das Empfindungsvermögen von Robotern und was KI über uns aussagt

Emily Cross | © Iman Aryanfar Der Einsatz von KI in der Robotik ist ein Bereich, in dem das Verhältnis zwischen künstlichen Agenten und Menschen in den Mittelpunkt rückt. Eine psychologische Rückkopplungsschleife entsteht durch den Einsatz von Robotern, die uns imitieren und/oder mit uns interagieren – wir reagieren auf sie und sie reagieren auf uns. Die Professorin für Soziale Robotik, Emily Cross, erkundet eben diese Schnittstelle. In ihrer Forschung untersucht Cross, inwiefern unsere Wahrnehmung und Interaktion mit Robotern durch soziale Erfahrungen oder Erwartungen gegenüber künstlichen Individuen geprägt wird. Dies wirft komplexe Fragestellungen auf, beispielsweise ob Roboter wie auch Menschen als Rechtssubjekte anerkannt werden sollten.

Verschlungene Welt

In den letzten Jahren wurde von der Forschung bestätigt, was alte Glaubenssysteme schon seit langer Zeit prägte. Das Leben auf unserem Planeten ist hoch entwickelt und komplex und besteht aus zahlreichen, interdependenten Formen der Intelligenz. Dabei beinhaltet „Intelligenz“ mehr als nur die enge westliche Definition als logisches Denkvermögen. Welche Erkenntnisse könnten diese Formen der Intelligenz und Koexistenz in Bezug auf das Design und den Einsatz von KI bringen?

Am Ende der Woche stellte der Journalist, Schriftsteller und leidenschaftliche Anwalt der Umwelt, Jonathan Ledgard, seinen Vorschlag vor, KI dafür zu nutzen, gefährdeten Tierarten einen wirtschaftlichen Wert zuzuteilen. Dazu könnten beispielsweise bestäubende Wildbienen gehören, um auf diese Weise den Schutz ihrer Lebensräume in Regionen zu unterstützen, in denen ihr Überleben gefährdet ist. Bei einem solchen Ansatz würde die KI allerdings noch immer innerhalb gewohnter Logiken zum Einsatz kommen. Doch ist eine inszenierte, finanzielle Bewertung der natürlichen Umwelt tatsächlich der schnellste Weg, der massiven Zerstörung von Lebensräumen Einhalt zu gebieten? Würde sich eine, von anderen Formen der Intelligenz beeinflusste, KI dieser Frage anders nähern? Mit der KI dringend wir in neue und komplexe Bereiche vor, die von uns ein Umdenken in Bezug auf unser eigenes Verhältnis zu Maschinen und Weltsystemen verlangen. Nähert man sich der KI hingegen über die gängige kapitalistische und kolonialistische Logik, kann ihr volles Potenzial nicht ausgeschöpft werden.

Künstler*innen befinden sich in einer geeigneten Position, um dieses Potenzial sowohl kritisch als auch kreativ zu erkunden. Bei einer kritischen Auseinandersetzung können Künstler*innen dazu beitragen, strategische Vorteile zu ermitteln, die sich aus den Beschränkungen durch gebräuchliche KI-Ansätze ergeben. Zudem können Künstler*innen ein tieferes poetisches Verständnis für die Bedeutung und die Zusammenhänge der Technologie vermitteln und auf diese Weise deutlich machen, was es bedeutet, Teil der großen Vielfalt des „Lebens“ auf unserem Planeten zu sein.