„Ich rücke den Teilnehmer ins Zentrum der Erfahrung“: Karen Palmer über das Geschichtenerzählen mit KI

Karen Palmer begann ihre berufliche Laufbahn als Produzentin von Musikvideos und Werbespots für das Fernsehen, fühlte sich jedoch zum immersiven Geschichtenerzählen und zur Technologie hingezogen. Aus Experimenten mit tragbarer Technologie und mit Kopfsensoren erstellten Elektroenzephalogrammen im Film ging die Gestaltung neuartiger Erfahrungen im Geschichtenerzählen hervor. Und Palmer erkannte das Potenzial der künstlichen Intelligenz (KI) in der Kunst des Geschichtenerzählens.
 
Karen Palmer | Foto: Steve Ambrose Gemeinsam mit Informatikern von der Brunel University in London, Neurowissenschaftlern von der New York University und dem kreativen Forschungslabor Thought Works entwickelte und trainierte Palmer das KI-Werkzeug EmoPy, um die Gesichtsausdrücke des Zuschauers zu erfassen und Emotionen wie Wut, Furcht und Gelassenheit zu erkennen.
 
Das Goethe-Institut hat mit ihr über ihre Projekte RIOT, Perception iO (Abbildung oben) und Consensus Gentium und darüber gesprochen, wie die KI in Zukunft die Art und Weise verändern wird, wie wir Geschichten erzählen. 
 
Ihre Arbeit „RIOT“ ist eine Installation, die auf die Emotionen des Betrachters reagiert und Gesichtserkennung und KI zur Gestaltung der Vorgänge in einem gefährlichen Aufruhr nutzt. Was interessiert sie an Unruhen und dem Einsatz von KI für diese sehr immersive Art des Geschichtenerzählens?
 
Die Ermordung von Michael Brown und die Unruhen im amerikanischen Ferguson machten mir wirklich zu schaffen, genauso wie eine Reihe weiterer Unruhen nach der Ermordung junger schwarzer Männer durch die Polizei. Und dann war da Eric Garner und „I can't breathe“. Ich bin keine Amerikanerin, aber ich bin ein schwarzes Mädchen, und die Vorgänge machten mich betroffen. Ich sah mir an, wie die Unruhen in den Medien dargestellt wurden, und dachte: „Nein, nein, das sind nicht irgendwelche Gesetzlosen, sondern es ist, wie Martin Luther King sagt: ‚Der Aufruhr ist die Stimme der Ungehörten.‘“ Ich wollte die Leute an meiner Interpretation eines Aufruhrs Situation teilhaben lassen. Sie sollten in den Raum eintreten und eine Situation erfahren, die sich abhängig von ihren Emotionen entwickelte, um ihnen einen Einblick in die Komplexität der Situation zu geben.
 
Ich habe diese Live-Installation gestaltet, in die man eintritt und vor der Projektion eines Films steht, umfangen von einem Ambisonic-Klangfeld, das der natürlichen Erfahrung des menschlichen Gehörs so nahe wie möglich kommt – es ist sehr instinktiv. Der Betrachter steigt möglicherweise auf Trümmer, und Teile der Installation fliegen aus dem Bildschirm. Und während der Betrachter den Film sieht, wird er von einer Webcam gefilmt.
 
Das ist kaum zu erkennen, denn die Beleuchtung des Raums ist sehr atmosphärisch. Aber während die Person die Szene betrachtet, wird sie ihrerseits von der Kamera beobachtet. Und wenn sie auf den Film und die Geschehnisse reagiert, zeichnet die Kamera diese Emotionen auf. Punkte im Gesicht des Betrachters werden mathematisch erfasst, und dann erkennt das System: „Ok, an diesem Punkt fürchtet sich die Person. An diesem Punkt ist sie ruhig oder wütend.“ Und dann wird das an den Film weitergegeben. Wenn die Person an diesem Punkt wütend ist, wird der Zweig der Geschichte verfolgt, in dem ein Polizist auf eine aggressive Haltung der Person ihm gegenüber eine entsprechende Reaktion zeigt.
 
Das Maschinenlernen ist Bestandteil der Gesichtserkennung. Es ist eine Maschine, in der wir einen Datensatz erzeugt haben, anhand dessen die Gesichtsausdrücke etikettiert werden: „Das ist der Ausdruck einer Person, die wütend ist.“ – „Das ist der Ausdruck einer Personen, die ruhig ist.“ Und dann sieht die Maschine den Betrachter an und sagt: „Klick –eine Entsprechung!“ Und an diesem Punkt zweigt das Narrativ ab.
 
Die Voreingenommenheit steht im Mittelpunkt Ihrer Arbeit. Die Gesichtserkennungswerkzeuge werden heftig kritisiert, weil sie beispielsweise männliche Weiße sehr viel besser erkennen als nicht weiße Personen oder Frauen. Wie haben Sie beim Training Ihrer KI für die Emotionserkennung vermieden, in dieselbe Falle zu gehen?
 
Als ich den ersten Prototyp dieses Durchlaufs entwickelte, der nicht Teil unseres Gesprächs war, ging es eher um die Mathematik des Gesichts. Als ich das System im Jahr 2017 weiterentwickelte, sahen wir uns die Daten an, um sie zu einem größeren Datensatz von Emotionen zusammenzusetzen. Als es darum ging festzustellen, ob jemand „ruhig“ oder „wütend“ war, fragten wir uns: „Wer wird diese grundlegende Entscheidung fällen?“ Denn wenn wir einen weißen Polizisten oder eine schwarze Frau nehmen, wird eine dieser Personen vielleicht sagen: „Das ist ein ruhiges Gesicht“, während die andere sagt: „Das ist ein wütendes Gesicht“. Um die Wahrscheinlichkeit der Voreingenommenheit zu verringern, zeigten wir die Gesichter also einer vielfältigen Gruppe von Personen, die uns bei der Etikettierung der Datensätze halfen. Aber im Verlauf dieses Prozesses und aufgrund meines auf der Forschung beruhenden künstlerischen Zugangs gelangten mein Team und ich zu dem Schluss, dass es fast unmöglich war, die Voreingenommenheit zu beseitigen. Die meisten Künstler neigen dazu, einfach IBM Watson oder ein anderes KI-System zu kaufen. Aber für meine Arbeit ist es grundlegend, dass ich diesen Fragen selbst nachgehe und sage: Wie werden wir es etikettieren? Wer wird es etikettieren? Wenn mehr schwarze oder mehr weiße Personen an der Etikettierung beteiligt sind, weiß man, wessen Voreingenommenheit sich auswirken wird. Es geht nicht darum, ob es Voreingenommenheit geben wird oder nicht – sie ist unvermeidlich. Aber wessen Voreingenommenheit wird es sein? Ein Besucher des Peru Museum of Modern Art beim Betrachten von „RIOT“ | Foto: Karen Palmer Sie spüren der Voreingenommenheit auch in der Installation „Perception iO“ nach, in der KI, Emotionserkennung und die Verfolgung von Augenbewegungen kombiniert werden, um unsere Betrachtungsweise und unsere Wahrnehmung der Realität zutage zu fördern. Können Sie erklären, wie „Perception iO“ unsere unbewusste rassistische Voreingenommenheit zum Vorschein bringt?
 
In RIOT geht es darum, den Menschen ihr unterbewusstes Verhalten vor Augen zu halten. Perception iO geht einen Schritt weiter: Es macht den Leuten ihre potentielle implizite Voreingenommenheit bewusst. In Perception iO geht es um die Zukunft des Gesetzesvollzugs oder darum, durch was die Polizei ersetzt werden wird – durch automatisierte KI-Systeme. Wer wird diese KI trainieren? Es werden keine dunkelhäutigen Leute wie ich sein, sondern die Leute, die gegenwärtig die Polizeianwärter ausbilden oder diese Systeme des institutionalisierten Rassismus entwickeln. Aber ich setze den Teilnehmer ins Zentrum der Erfahrung, indem ich sage: Du wirst die KI trainieren, du wirst der Polizist sein, du wirst sowohl mit einem schwarzen als auch mit einem weißen Protagonisten in Kontakt kommen. Vielleicht haben sie psychische Probleme oder sind Kriminelle, aber du weißt es nicht. Aber es gibt innere Zeichen, die du vielleicht sehen kannst. Wenn du als die Person, die es betrachtet, wütend oder aggressiv reagierst, wird diese Person vielleicht verhaftet oder erschossen. Und wenn du anders reagierst, wenn du ruhig bleibst, wird sie vielleicht zu einer guten Entscheidung gelangen.
 
Es kann dir also deine implizite Voreingenommenheit bewusst machen, weil du auf die weiße Person möglicherweise anders reagiert hast als auf die schwarze. Ich sage den Leuten nicht: „Oh, Sie sind ein Rassist.“ Als Künstlerin erzeuge ich eine Umgebung der Selbstreflexion.
 
Wie bringen Sie die Leute dazu, auf die Selbsterkenntnis zu reagieren und tatsächlich Veränderungen herbeizuführen?
 
Das dritte Projekt, an dem ich gegenwärtig arbeite, ist Consensus Gentium. Mein Ziel ist, die Leute in die Lage zu versetzen, sich ihres unterbewussten Verhaltens bewusst zu werden und die Furcht zu überwinden, damit sie ihr Leben selbst gestalten können. Ich gehe von der Prämisse aus, dass wir gegenwärtig auf eine dystopische Zukunft zusteuern. Wenn wir diesen Weg fortsetzen, wie würde die potentielle Ausweitung der dystopischen Gegenwart und einer noch dystopischeren Welt aussehen? Das ist die eine Welt, die ich gestalte. Der andere Weg besteht darin, dass wir etwas Utopisches brauchen, um uns von dieser dystopischen Welt zu entfernen. Was brauchen wir, um diesen anderen Weg einschlagen zu können? Der Teilnehmer wird mit Dystopie und Utopie konfrontiert und kann sich ansehen, welchen Platz er darin einnimmt und wohin uns Einverständnis, Apathie oder Beteiligung führen werden.
 
In den vergangenen neun Monaten habe ich an der Initiative Hack The Future Lab gearbeitet, an der verschiedene Vordenker teilnahmen, darunter Technologieaktivisten, Neurowissenschaftler, Freerunner, Psychologen, Leute, die an vorderster Front stehen, Spirituelle an den Schnittstellen von Kunst, Technologie und Wissenschaft. Ich begann, imaginäre Welten zu schaffen, und mittlerweile haben wir drei immersive Skripte entwickelt. Schnell unterwegs: Die KI-Filmemacherin Karen Palmer nennt sich selbst eine „Geschichtenerzählerin aus der Zukunft“ | Foto: Karen Palmer Sie bezeichnen sich selbst als Geschichtenerzählerin aus der Zukunft. Wie wirksam ist diese kulturelle Technik des Geschichtenerzählens, der Einsatz von Narrativen, um die Zukunft zu erkunden und zu erfinden?
 
Ich halte sie für grundlegend. Ich bin seit jeher sehr zukunftsorientiert und spreche stets über Dinge, die mir Leute erzählt haben und die einige Jahre später Wirklichkeit wurden. Und ich kann viele kommende Dinge sehen, die klar zu erkennen sind, aber die meisten Leute stellen die Zusammenhänge nicht her.
 
Wenn ich Sie durch das Geschichtenerzählen in eine immersive Welt versetzen kann, können Sie die Zukunft heute erleben und sich ansehen, welchen Platz Sie darin einnehmen werden. Es ist eine sehr instinktive, greifbare Erfahrung, die das Gespür und die emotionale Seite verbindet. Ich glaube, unser Verhalten wird oft in verschiedenen Teilen unseres Gehirns manipuliert, zum Beispiel durch soziale Medien und ähnliches, aber ich möchte die Leute dazu bringen, sich davon zu befreien und einfach die Welt zu erfahren und sich von ihren Emotionen und ihrem Unterbewusstsein leiten lassen. In meinen Augen gibt es nichts Wirksameres als die Menschen in die Lage zu versetzen, ihre potentielle Zukunft durch eigenes Handeln und eigene Entscheidungen – oder mit einem Mangel an Handlungsmacht – zu erleben, um ihnen einen Spiegel vorzuhalten, in dem sie sehen können, wohin wir gehen.
 
Das Geschichtenerzählen ist unverzichtbar, um Identität und Kultur zu erzeugen. Sehen Sie die Gefahr, dass die zunehmende Online-Nutzung von KI und das Angebot von individuellen Zeitreihen und personalisierten Erfahrungen für jedermann dazu führen können, dass wir keine gemeinsamen Geschichten mehr haben werden?
 
Nein, keineswegs. In meiner Arbeit in den letzten Jahren geht es ja gerade um das Erleben von Furcht und die Wahrnehmung der Realität. Nichts an unserer Wahrnehmung der Realität ist objektiv, sie ist vollkommen subjektiv. Und wenn ich den Leuten überlappende Wahrnehmungen der Realität ermöglichen kann, können wir ein kohäsiveres Verständnis nicht nur von uns selbst, sondern auch voneinander entwickeln. Ich glaube nicht, dass das die Distanz zwischen uns vergrößern wird, dass wir lauter verschiedene Geschichten haben werden. Ich denke, dass wir ein besseres Verständnis der Narrative der anderen entwickeln werden.