Künstliche Intelligenz
EthicAI=LABS: Von Worten zu Taten

WAS GESCHAH WÄHREND DER PILOTPHASE VON EthicAI=LABS

Von Dr. Galina Dimitrova-Dimova, Programmkuratorin, EthicAI=LABS

Teilnehmer:innen (fellows):
Ajla Kulaglic, Albena Baeva, Ana-Maria Pleșca, Busra Sarigul, Dessislava Fessenko, Dorin Cucicov, Fatih Sinan Esen, Ivana Tkalčić, Katerina Gkoutziouli, Kemal Halilović, Marko Mrvoš, Matko Vlahović, Nasir Muftić, Sinem Görücü, Stefania Budulan, Tsvetomila Mihaylova, Vassilios Bokos, Yiannis Kiouvrekis

EthicAI=LABS ist ein Regionalprojekt der Goethe-Institute Ankara, Athen, Bucharest, Sofia, Sarajevo und Zagreb.


„Von Worten zu Taten“, so lautet der Titel der Veranstaltung, die die Ergebnisse der ersten Ausgabe von EthicAI=LABS im Jahr 2021 präsentiert. Gleichzeitig ist dieser „Slogan“ eine Art Replik auf das Thema der Eröffnungsveranstaltung des Projekts am 27. Mai, die „Reden wir über KI und Ethik“ hieß. Mit diesem Aufruf wollten wir ein Gespräch initiieren, zu dem wir Fachleute aus verschiedenen Ländern und Bereichen eingeladen hatten – Dr. Nevena Ivanova vom Institut für Philosophie und Soziologie an der Bulgarischen Akademie der Wissenschaften, Dr. Nikos Panagiotou, Professor für Journalismus und Massenmedien an der Aristoteles-Universität in Athen und Prof. Stefan Trausan-Matu von der Fakultät für Informatik an der Universität Bukarest. Ziel war es zu erklären, warum es heutzutage wichtig ist, über die Beziehung zwischen künstlicher Intelligenz und Ethik zu sprechen.

Das Thema ist zweifelsohne sehr aktuell und entwickelt sich dynamisch. Fast jeden Tag hören wir von neuen technologischen Entwicklungen und Plattformen, die Algorithmen geschickt einsetzen, um uns als Verbrauchern und Kunden etwas Neues zu bieten. Die meisten davon versprechen uns ein besseres Leben, einen leichteren Umgang mit anderen oder aufregendere Erlebnisse…

An dieser Stelle beginnt der kritische Diskurs über das Thema. Was bringt es der Menschheit, wie verändert es unsere Beziehungen, wie wirkt es sich auf unser Leben und unser Verhältnis zu Geräten und maschinellem Lernen aus?

Diese Fragen haben viele Forscher*innen und Künstler*innen veranlasst, sich mit dem Thema zu befassen. Dazu gehören auch die Teilnehmer*innen am Projekt EthicAI=LABS. Nach einer offenen Ausschreibung zur Teilnahme am Projekt, die im Februar 2021 in den 6 Ländern der Region gekündigt wurde, haben wir 18 junge Fachleute ausgewählt. Sie begannen in Dreiergruppen an den Projektthemen zu arbeiten und erforschten künstliche Intelligenz und Ethik sowie deren Überschneidungen im Kontext von Linguistik, Kreativität, Brennpunkten und Medien.

Ich denke, damit ist die Absicht von EthicAI=LABS weitgehend erfüllt, eine Debatte anzustoßen, die viele interessante Fragen bezüglich Algorithmen und ihrer Auswirkungen auf unser Leben und unsere Beziehungen aufwirft.

Darüber hinaus sollte das Projekt Raum für interdisziplinären Dialog schaffen, der Fachleute aus verschiedenen Bereichen – Kunst und Kultur, Informationstechnologie und Geisteswissenschaften – zusammenbringt. Diese Themen werden oft nur im Freundeskreis oder unter Kollegen diskutiert. Die Herausforderung besteht darin, die Grenzen der eigenen sozialen Gruppe zu überschreiten und den Standpunkt der anderen zu verstehen, ihre Meinung und Argumente zu hören. Daher war es uns sehr wichtig, Fachleute verschiedener Bereiche zusammenzubringen, wenn auch nur virtuell, denn alle Sitzungen und Gespräche fanden online über unterschiedliche Apps statt.

Der Forschungs- und Arbeitsprozess wurde von vier Workshops begleitet, zu denen wir Expert*innen aus den drei Sektoren und am Projekt beteiligten Ländern eingeladen hatten, die ihre Tätigkeit und ihr Fachwissen vorstellten und die Teilnehmer*innen bei der Gruppenarbeit anleiteten und berieten.
Die folgenden Fachleute nahmen am ersten Workshop zum Thema KI und Linguistik teil: Dr. Preslav Nakov vom Qatar Computing Research Institute, Assoc. Prof. Gülşen Eryiğit von der Technischen Universität in Istanbul und Prof. Liviu P. Dinu von der Fakultät für Informatik der Universität Bukarest. Eva Cetinić, Forscherin am Institut Ruđer Boškovic in Zagreb, Kyriaki Goni, Digitalkünstlerin aus Athen, und Georgi Kostadinov, Leiter der Abteilung für künstliche Intelligenz bei Imagga in Sofia diskutierten über das Thema Kreativität. Prof. Vladan Joler vom Fachbereich Neue Medien an der Universität Novi Sad und Mihaela Constantinescu vom Forschungszentrum für Angewandte Ethik in Bukarest diskutierten über die Problembereiche beim Einsatz von Algorithmen. Gergana Baeva, zuständig für Forschung und Medienpolitik bei der Medienanstalt Berlin-Brandenburg (mabb), sowie Vladimir Petkov von Identrics, Sofia, und Manolis Andriotakis, Schriftsteller und Journalist aus Athen, hatten wir zu einer Diskussion zum Thema KI in den Medien eingeladen.

In diesen Workshops befassen sich die Teilnehmer*innen mit verschiedenen Trends und Themen. Sie diskutierten sie mit den Referent*innen, wobei der Schwerpunkt auf Aspekten der Nutzung von Algorithmen und Systemen in den Themenbereichen des Projekts lag. Zum Beispiel, wie von Algorithmen generierte Inhalte (GPT-3) für Propaganda genutzt werden und Brennpunkte (Vorurteile), Panik oder Fremdenfeindlichkeit schaffen, besonders jetzt, in einer Pandemiesituation, die das Gefühl der Unsicherheit und Bedrohung verschärft hat. Ein weiteres Thema, das die Redner*innen und Teilnehmer*innen besprachen, war die Frage, ob wir den automatischen/statistischen Methoden zur Erzeugung und Verarbeitung von Nachrichten vertrauen können und sollten. Es wurden Modelle erörtert, die wiederum auf Algorithmen basieren (deep learning model/GPT-3), die die Glaubwürdigkeit von Behauptungen überprüfen, um die unkritische Weitergabe von Gehörtem zu verringern.
 

In den Workshops wurde die Frage behandelt, wie sich das Verständnis des kreativen Prozesses verändert, bei dem verschiedene Algorithmen und Datensysteme eine wichtige Rolle spielen, von der Bild- und Videoverarbeitung bis hin zur Musikkomposition usw. Wir waren uns einig, dass diese die Ästhetik und den Gegenstand des schöpferischen Akts bestimmt verändern, und trotzdem einen vom Menschen geleiteten Schöpfungsprozess betreffen. Doch wir mussten uns auch fragen, ob KI transformative Kreativität (transformational creativity) nach Margaret Bowden besitzen kann – um auf ihre eigene Weise zu schaffen, unbeeinflusst von ihrem Schöpfer (agi). Wir sind zum Schluss gekommen, dass die Unabhängigkeit vom Schöpfer keineswegs eine Abhängigkeit von den Daten ausschließt, da solche Systeme ständig mit verschiedenen, teilweise riesigen Datenbanken gefüttert werden. Selbst wenn es um selbstlernende Modelle geht, verarbeiten diese wiederum statistische Daten. Sie folgen vorgegebenen Handlungsparametern, d.h. hier kann man nicht von der Inspiration und Kreativität reden, die dem Menschen eigen sind.

Viele weitere interessante und relevante Themen und Fragen wurden während der Workshops von Juni bis September 2021 vorgestellt und diskutiert. Mehr dazu in den auf der Projektwebsite veröffentlichten Materialen.

Forschung und Kollaboration standen im Mittelpunkt der Projektarbeit. Obwohl die Erstellung eines gemeinsamen Projekts nicht in allen Gruppen funktionierte, führte die Synergie zwischen Fachleuten mit unterschiedlichem Hintergrund zu interessanten Ergebnissen. Diese reichen von Forschungsarbeiten und Aufsätzen über Algorithmen für Chatbots bis hin zur Schaffung von Kunstwerken.

Die aus Katerina Gkoutziouli, Stefania Budulan und Ana-Maria Pleșca bestehende Gruppe untersuchte die Rolle der Daten, die zum Training der Algorithmen verwendet werden. Die Teilnehmerinnen richteten zwei Chatbots mit verschiedenen Arten von Datenbanken ein und bewerteten die Unterhaltungen zwischen ihnen. Ihre Idee war, die in den Daten eingebetteten Verzerrungen aufzudecken sowie zu prüfen, inwieweit die Interaktionen mit Menschen und Chatbots unterschiedlich wahrgenommen werden. Die Ergebnisse werden auf einer Website und in einem Artikel vorgestellt, in dem der Forschungs- und Entwicklungsansatz beschrieben wird.

Die andere Gruppe, die sich mit dem Thema Computerlinguistik beschäftigte – Dorin Cucicov, Tsvetomila Mihaylova und Busra Sarigul – konzentrierte sich ebenfalls auf Chatbots. Doch sie entwickelte ihr Projekt in eine andere Richtung. Das Ziel war, einen Chatbot mit emotionalem Bewusstsein zu schaffen, der einen Therapeuten oder eine Therapeutin nachahmen oder sogar ersetzen kann. Um dies zu erreichen, bedienten sich die Teilnehmer*innen grundlegender menschlicher Gesprächsmodelle, die sie auf die Mensch-Computer-Interaktion übertrugen. Derzeit wird das Ergebnis als Website präsentiert, soll aber als physische Installation mit einer Couch und einem Bildschirm, auf dem die Nachrichten des Chatbots angezeigt werden, umgesetzt werden.

Die Gruppe, die sich für das Thema Kreativität und KI entschied, konzentrierte sich auf die folgenden Fragen: „Was ist der wesentliche Bestandteil der Kreativität, den nur Menschen und keine Maschinen besitzen? Kann künstliche Intelligenz dazu beitragen, das Konzept des Kunstschaffens zu verfeinern, indem sie diese wesentliche Komponente ans Licht bringt?“ Dessislava Fessenko schrieb einen Text zum Thema, Yiannis Kiouvrekis bereitete ebenfalls einen Artikel vor, in dem er sich zu Kreativität, Desinformation, Falschnachrichten und dem Verständnisgrad der KI in Bezug auf menschliche Semantik äußert, und Marko Mrvoš schuf ein Kunstwerk, bei dem Algorithmen und Daten den Visualisierungsprozess leiten.

Sinem Görücü, Ajla Kulaglic und Nasir Muftić arbeiteten gemeinsam an einem Projekt zur Erstellung einer interaktiven Karte, die untersucht, welche Vorurteile in der Region am weitesten verbreitet sind, wie Menschen in ihre Fallen tappen, wie dies vermieden werden kann und welche Risiken falsche Vorstellungen und Stereotypen bergen, die in KI einprogrammiert werden können. Die Autoren bereiteten ein interaktives Online-Spiel vor, das die Vorurteile veranschaulicht. Darin navigiert der Benutzer durch verschiedene Situationen, in denen er auf systematische kognitive Verzerrungen stößt.

In einer der Gruppen, die sich mit dem Thema KI und Medien beschäftigten, schuf Albena Baeva in Zusammenarbeit mit ihren Kollegen eine Installation mit dem Titel „Die Gebote der KI“. Dabei befasste sich die Künstlerin mit den gegenwärtigen staatlichen Ansätzen zur Regulierung der Technologie, den politischen und sozialen Auswirkungen des Einsatzes künstlicher Intelligenz und der trügerischen Art und Weise, in der die Medien das Thema darstellen. Die anderen Mitglieder der Gruppe, Kemal Halilović und Matko Vlahović, bereiteten Berichte zu diesem Thema vor. Kemal Halilović fasst die Probleme zusammen, die der Einsatz von KI in den Medien verursachen kann, wie Falschnachrichten, Deepfakes usw. Der Bericht von Matko Vlahović handelt von dem ideologischen Einfluss der Medien auf die Art und Weise, wie wir uns künstliche Intelligenz vorstellen, sowie davon, wie Medien die Entwicklung von KI beeinflussen.

In der anderen Gruppe, die sich mit dem Thema Medien beschäftigte, erstellten Ivana Tkalčić, Vassilios Bokos und Fatih Sinan einen Fragebogen, um die allgemeine Einstellung der Menschen zur KI in den Medien und das Vertrauen der Öffentlichkeit in den Medien zu untersuchen. Der Fragebogen wurde an Kollegen, Nichtregierungsorganisationen und andere Organisationen im Bereich Kultur, Medien und Technologie in Südosteuropa verteilt, um die Einstellung der Öffentlichkeit in unserer Region zu erkunden. Das Endergebnis ist ein Artikel, in dem die im Rahmen der Umfrage erhobenen Daten analysiert werden.

Alle diese Projekte und Kooperationen werden auf der Abschlussveranstaltung des Projekts, EthicAI=FORUM, am 18. November 2021 vorgestellt. Eine Aufzeichnung wird danach in der Mediathek auf der Projektwebsite veröffentlicht.