Welchen Zweck soll Künstliche Intelligenz haben und wem soll sie dienen? Junge Erwachsene entwickeln ihre Vision für eine Zukunft mit Künstlicher Intelligenz – ein Kurzfilm und ausgewählte Statements.
Gerade wächst eine Generation heran, für die das Leben mit Künstlicher Intelligenz (KI) keine Utopie sein wird, sondern selbstverständliche Alltagserfahrung. Politische Entscheidungen von heute über den Einsatz von neuen und digitalen Technologien werden sich tiefgreifend auf das Leben dieser Generation auswirken. Doch bislang sind diese jungen Menschen an der Entstehung der Entscheidungen nicht ausreichend beteiligt.
Im Kurzfilm Envisions – Zukunftsvisionen für ein Leben mit KI schlagen junge Erwachsene kreative Lösungen für Probleme der KI vor. Und anhand von Kurzinterviews reflektieren sie persönliche Haltungen und Herangehensweisen. Kurzfilm und Interviews entstanden im Programm „Envisions“ im Rahmen eines Projekts des Goethe-Instituts mit dem Namen „Generation A=Algorithmus“ (Weitere Informationen zum Projekt Generation A=Algorithmus sowie zum Hintergrund des Films und der Interviews: weiter unten).
Video: „Envisions – Zukunftsvisionen für ein Leben mit KI“
Andrew Mallinson
Feminist Internet, UK
Warum beschäftigen Sie sich mit künstlicher Intelligenz? Was interessiert Sie an KI besonders?
Ich begann nach einigen Jahren in der Kreativindustrie mit KI zu arbeiten. Während meiner Ausbildung in bildender Kunst begann ich mich dafür zu interessieren, wie sich Körper politisch und sozial durch den Raum bewegen. 2017 lernte ich auf Feminist Internet kennen, ein Kollektiv von Künstler*innen und Designer*innen, das technologische Ungleichheiten bekämpft. Mir wurde schnell klar, dass es innerhalb meiner Praxis einen Raum gab, den ich nicht berücksichtigte, nämlich wie sich Körper durch Technologie bewegen. Seit ich mit dem Kollektiv zusammenarbeite, interessiere ich mich insbesondere für diesen Übergangsbereich zwischen dem, wo der Körper sowohl in einer physischen als auch in einer digitalen Realität existiert, und wie die Konsequenzen unserer Handlungen sich wechselseitig zwischen diesen Räumen bewegen.
Sie moderierten drei Workshops für eine Gruppe, die an neuen Zukunftsvisionen für ein Leben mit KI arbeitete. Welche Erkenntnis nehmen Sie aus dem „Envisions“-Programm mit?
Meine Haupterkenntnis ist, dass diese Generation in Bezug auf KI extrem passioniert ist; sie möchte Entscheidungen treffen können, sie hat genug davon, dass Privatunternehmen und Regierungen KI entwickeln und Entscheidungen über KI treffen, die sie als undemokratisch und schädlich für Mensch und Umwelt erachten. Zudem habe ich ein gewisses Vertrauen in die Methodologie der Workshops gefunden, die während des Envisions-Prozesses zur Generierung von Ideen und konkreten Lösungen genutzt wurde.
Bitte wählen Sie ein Statement aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
„Wenn wir KI queeren würden, könnten wir Technologien schaffen, die meilenweit über unser derzeitiges Verständnis hinausgehen. Wir könnten Technologien mit queerer Freude erfüllen. KI zu queeren schafft Raum für eine Vielzahl von Perspektiven.“
Diese Statements sprechen für die Fantasie und den Optimismus, die dem Envisions-Prozess innewohnen. Heutige Modelle der KI-Entwicklung haben zu zahllosen Problemen im Hinblick auf Privatsphäre, Folgen für die psychische Gesundheit, öffentliche Sicherheit und vieles mehr geführt. Wie könnte KI aussehen, wenn LGTBQ+-Menschen den Handlungsspielraum erhielten, etwas aus ihrer Vision aufzubauen, etwas, das ihren Communities zugutekäme? Wenn jetzt eine Zeit kommt, in der das ‚Metaversum‘ im Raum steht, sollten wir dann nicht vielleicht auch darüber nachdenken, wie ein ‚Queerversum‘ aussehen könnte?
Emilija Gagrčin
Weizenbaum-Institut, Deutschland
Warum beschäftigen Sie sich mit künstlicher Intelligenz? Was interessiert Sie an KI besonders?
Mich interessiert, wie Technologie unser zivilgesellschaftliches und politisches Leben prägt. Die Bewertung der Auswirkungen von KI ist in vielerlei Hinsicht eine Herausforderung. Social-Media-Algorithmen beispielsweise sind etwas, das manchmal als „Erlebnistechnologien“ bezeichnet wird: Wir bemerken sie nicht unbedingt bewusst, lassen uns aber von ihnen lenken – zumindest, so lange sie „für uns funktionieren“. Ebenso werden KI-basierte Technologien zunehmend im Hintergrund eingesetzt, ohne dass wir sie bemerken, beeinflussen aber dennoch, wie wir mit der Welt interagieren.
Bitte wählen Sie einen Satz aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
Ich mag den Satz: „Wir müssen KI diskutieren, wie wir Popkultur diskutieren.“ Ich verstehe ihn so, dass die Diskussion über den Einsatz von KI-Technologien in der Gesellschaft zum Mainstream werden sollte, etwas, worüber alle sprechen können. Viele – einschließlich manchmal mir selbst – glauben, dass man vom Fach sein muss, um digitale Themen zu diskutieren, und teilweise habe ich das Gefühl, dass die großen Tech-Firmen tatsächlich gar nichts dagegen haben, dass wir das so empfinden. Aber es gibt viele Arten, sich an diesen Diskussionen auf eher spielerische, weniger einschüchternde und nach Expertise verlangende Art zu beteiligen. In dieser Hinsicht war der interdisziplinäre Ansatz des „Generation A=“-Projekts fantastisch, weil er auf eine Art, die für unterschiedliches Publikum zugänglich war, zu Debatten über das Thema KI und Gesellschaft aus verschiedenen Blickwinkeln ermutigte.
Elena Falomo
Künstlerin und Designerin, Italien
Warum beschäftigen Sie sich mit künstlicher Intelligenz? Was interessiert Sie an KI besonders?
Ich beschäftige mich in meiner Arbeit mit KI, weil sie eine allgegenwärtige Technologie ist, die unser Verhalten als Individuen, als Gemeinschaften und als Gesellschaft verändert hat. Die breite Implementierung von KI hat zudem jede Menge Fragen dazu aufgeworfen, wie wir Technologie entwickeln, welche Vorurteile wir in Technologie einbetten und wie wir mit ihren unbeabsichtigten Konsequenzen umgehen. Das Nachdenken über diese Fragen kann uns dazu bringen, unsere Werte zu überdenken und neue Konfigurationen vorzuschlagen, wie die Menschheit zusammenkommen und zu ihrem eigenen Besten und zum Besten des Planeten handeln kann.
Bitte wählen Sie ein Statement aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
„Deshalb muss KI gemeinsam geschaffen, von Gemeinschaften mit Gemeinschaften für Gemeinschaften gebaut werden.“ Die Schaffung von Technologie bleibt häufig einer Elite vorbehalten, wirkt sich aber auf unser aller Leben aus. Wir müssen dieses Paradigma infrage stellen, wir müssen uns Technologie öko-systematisch vorstellen und die Erfahrungen vieler miteinbeziehen, wenn sie positive Auswirkungen auf unsere Gesellschaft und auf das Leben auf unserem Planeten haben soll.
Sinem Görücü
Designforscherin, Architektin und Datenaktivistin, Türkei
Als Forscherin mit einer Ausbildung als Designerin und Architektin arbeite ich speziell an der Schnittstelle von KI, Daten, Design und sozialer Gerechtigkeit. Mein Hauptinteresse gilt den sozialen Konsequenzen von Designentscheidungen in algorithmischen Prozessen und wie Unterdrückung, Diskriminierung und Ungleichheiten von diesen technologischen Entwicklungen umgestaltet werden.
Welche wichtige Erkenntnis nehmen Sie aus dem „Envisions“-Programm mit?
Wenn man Zukunftsvisionen entwirft und sich künftige Entwicklungen ausmalt, sollte der wichtigste Gesichtspunkt immer der sein, sicherzustellen, dass diejenigen, für die diese Prozesse am herausforderndsten sein werden, nicht ungehört bleiben oder passiv gemacht werden. Ich glaube, das Envisions-Programm lieferte uns einen sehr kreativen und produktiven Raum, um über die Bedenken zu reflektieren, die junge Menschen in Bezug auf KI haben. Wir konnten uns mit der zentralen Frage befassen, wie Technologie jetzt und in Zukunft unser Leben prägt und verändert. Wer wird abgehängt werden, wer sollte die Entscheidungen treffen und wie können wir eine gemeinsame Zukunft für intersektionale Gerechtigkeit sicherstellen? Und nicht zu vergessen, wie können wir alle diese Visionen kommunizieren?
Bitte wählen Sie ein Statement aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
„KI muss lernen und verlernen, genau wie wir.“ Das ist für mich das wichtigste Statement. Vom Moment unserer Geburt an lernen wir alle, wie wir uns gegenseitig verletzen, mobben, miteinander konkurrieren, um in das System zu passen, wie wir uns aufgrund einer beliebigen festgestellten Andersartigkeit gegenseitig diskriminieren und marginalisieren und uns gegenseitig zu unserem eigenen Vorteil unterdrücken. Wir reproduzieren fortlaufend das, was menschliche Geschichte und Unterdrückungssysteme uns gelehrt haben – und KI unterscheidet sich in dieser Hinsicht nicht von uns. Genau wie wir lernt sie zu unterdrücken und kann dadurch die bereits vorhandene Unterdrückung verstärken. Ohne globale Gerechtigkeit lässt sich KI-Gerechtigkeit nicht erreichen und KI muss Unterdrückung tatsächlich genauso verlernen wie wir.
Technologie fasziniert mich schon seit meiner Kindheit in zweifacher Hinsicht. Auf der einen Seite interessiert mich, was Technologie für mich tun kann – mehr Freizeit und weniger Arbeit. Gleichzeitig habe ich bei technologischen Entwicklungen Angst vor dem Unbekannten. Und deshalb versuche ich den vollen Umfang dessen zu ergründen, was überhaupt verstanden werden kann: um so viel Macht wie möglich darüber zu haben.
Sie nahmen an einer Workshopreihe teil, die an neuen Zukunftsvisionen für ein Leben mit KI arbeitete. Welche Erkenntnis nehmen Sie aus dem „Envisions“-Programm mit?
Meine Haupterkenntnis war, dass die Informatik Kunstschaffende wie mich tatsächlich braucht. Ich hatte das immer gehofft und vermutet, aber die Gespräche bei den Workshops bestärkten mich in meiner Überzeugung, dass bei der Entwicklung von Technologie großer Bedarf an kreativer Vorstellungskraft besteht.
Bitte wählen Sie einen Satz aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
„Zwischen Menschen, Konzernen und Regierungen besteht ein Machtgefälle.“ Dieses Gefälle ist für mich persönlich sehr problematisch. Wenn wir dieses Gefälle irgendwie angehen können, dann sind einige technologiegestützte Utopien möglich. Wenn dieses Gefälle jedoch nicht beseitigt wird, dann werden die besten Technologien, einschließlich KI, immer nur den Bedürfnissen einiger weniger dienen.
Im November 2021 waren Sie Mitglied einer Reisegruppe mit Teilnehmer*innen des Projekts „Generation A=Algorithmus“ und besuchten die Abschlussveranstaltung in Dresden, das Festival „Wenn Maschinen Zukunft träumen“. Was war für Sie das wichtigste Ergebnis dieser Reise?
Wenn man sie richtig einsetzt, sind Statistiken ein großartiges Werkzeug zur Modellierung der Welt und zur Messung potenzieller Fehler – insbesondere bei der Rückkehr vom Modell zur Realität. KI scheint in dieser Hinsicht sehr viele Ähnlichkeiten mit multidimensionaler Statistik aufzuweisen. Wichtig bleibt jedoch, in der Lage zu sein, den Rand, das Queere, die Bedürfnisse und Stimmen der Minderheiten zu interpretieren, wenn der statistische Durchschnitt einen Weg zu Effektivität und Dominanz zu weisen scheint. Das war meine Haupterkenntnis aus Podiumsdiskussionen zu indigenen Perspektiven auf KI und den Gefahren der Gesichtserkennung. Ich hoffe, in Zukunft in meiner eigenen künstlerischen Praxis auf diesen Erkenntnissen aufbauen zu können.
Ich begann im Rahmen mehrerer Datenmissbrauchs-Skandale, ein Interesse an KI-bezogenen Politiken zu entwickeln, bei denen vermutet wurde, dass KI zur Verstärkung negativer Effekte auf demokratische Diskurse eingesetzt wurde. Mein besonderes Interesse an KI stammt daher aus der Perspektive einer Menschrechtsaktivistin. KI gilt in einer Reihe von Bereichen und Wissenschaften als Faktor für schnelles Wachstum in der Entwicklung, aber sie kann auch gegen Minderheiten und benachteiligte Bevölkerungsgruppen missbraucht werden; bereits existierende Tendenzen verstärken. Und deshalb denke ich, dass Aktivist*innen wie ich höchst wachsam sein sollten, weil das Tempo der technologischen Entwicklung derzeit ihre zivilgesellschaftliche Überwachung weit hinter sich lässt.
Bitte wählen Sie ein Statement aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
Ich würde nehmen: „Wir brauchen mehr Bewusstsein, wir brauchen Transparenz, wir brauchen Bildung. Wir müssen diese Themen diskutieren, wie wir Popkultur diskutieren. Wir müssen die Macht von Regierungen und Unternehmen dezentralisieren und Ressourcen umverteilen. Wir müssen auf eine Zukunft hinarbeiten, die gegen Abbau ist. KI sollte Frieden fördern, nicht Macht. Es gibt so viel Potential für einen Wandel.“ Dieses Statement spricht die Notwendigkeit von Bildung und einer Delegierung der Macht zurück an die Staatsbürger*innen an, ein Ziel, das meinem Weltbild und meinen eigenen beruflichen und persönlichen Zielsetzungen und Bestrebungen sehr nahesteht. Als jemand, der in der Menschenrechtsbildung für und mit jungen Menschen tätig ist, glaube ich, dass gut informierte und mündige Staatsbürger*innen letzten Endes die Möglichkeit haben, Kontrolle über Entscheidungsträger*innen und große Tech-Firmen auszuüben.
Orfeas Menis-Mastromichalakis
Nationale Technische Universität Athen, Griechenland
Warum beschäftigen Sie sich mit künstlicher Intelligenz? Was interessiert Sie an KI besonders?
Künstliche Intelligenz ist eine faszinierende Technologie, die das Potenzial hat, unsere Welt von Grund auf zu verändern. Es ist beeindruckend, wie Algorithmen es bereits heute schaffen, Menschen bei komplexen Aufgaben wie Bilderkennung weit hinter sich zu lassen. Diese Faszination für ihre Fähigkeiten entfachte ursprünglich mein Interesse an KI. Als ich mich intensiver mit ihr beschäftigte, lernte ich mehr über ihr Design, ihre Anwendungen in der realen Welt und ihre inhärenten moralischen, sozialen und ethischen Implikationen. Ich erfuhr von der Ressourcenverschwendung, die in unserer modernen kapitalistischen Welt ein integraler Bestandteil der KI ist, und wie die Struktur dieser Technologie zu einer Gefahr für unsere Zukunft werden kann. Statt eine Technologie zu sein, die die Unterschichten befreien könnte, ist KI auf dem besten Weg dazu, eine weitere „Waffe“ in den Händen der „Starken“ zu werden; das vorhandene soziale und wirtschaftliche Gefälle in unseren Gesellschaften zu vergrößern. Mein besonderes Interesse gilt der Erforschung von Systemen, die eine vorurteilsfreie und faire Anwendung von KI garantieren würden. Ich hoffe, zum Einsatz der KI zum Wohl aller Menschen beizutragen, was letztlich die Ausmerzung von Ungerechtigkeit und Ungleichheit in der Gesellschaft zum Ziel hat.
Bitte wählen Sie einen Satz aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
Auch wenn ich glaube, dass sich ein so komplexes Thema wie die Zukunft der KI nicht diskutieren lässt, indem man sich auf ein einzelnes Statement konzentriert, fand ich doch einen Satz, der meine eigene Vision für die Zukunft der KI (und darüber hinaus) sehr gut widerspiegelt: „Wir müssen die Macht von Regierungen und Unternehmen dezentralisieren und Ressourcen umverteilen.“ Das ist ein hoher Anspruch – etwas, das nicht innerhalb weniger Tage oder sogar Jahre geschehen wird –, aber ich bin fest davon überzeugt, dass die Befreiung des Individuums und wahre Freiheit nur erreicht werden können, wenn große Unternehmen und Regierungen nicht alle Macht über KI innehaben. Das Hauptproblem beim aktuellen Design der KI ist, dass sie eine extrem zentralisierte Technologie ist. Wenn wir keinen Weg finden, sie zu dezentralisieren, können wir nicht erwarten, dass sie für das Gemeinwohl eingesetzt wird und wir den Missbrauch von KI innerhalb von Systemen von Machtungleichheit und Unterdrückung verhindern können.
Mir macht die Arbeit an der Schnittstelle von Wissenschaft und Kunst viel Freude. Ich fand es inspirierend, KI in meine Projekte zu integrieren, weil ich gerne interaktive Werke schaffe und mit Vergnügen die Interaktionen des Publikums mit den Kunstwerken beobachte, die oft zu neuen Geschichten führen und meinen Arbeiten zusätzliche Elemente verleihen. Ich glaube zudem, dass die Arbeit mit KI eine großartige Gelegenheit darstellt, sich im Bereich Wissenschaft weiterzuentwickeln und die Wissenschaft selbst mit neuen und kreativen Perspektiven zu inspirieren.
An welchem Format des Projekts „Generation A=Algorithmus“ nahmen Sie teil und warum?
Ich war Teil des KI-Residenzen-Programms, das Institutionen und Unternehmen, die mit KI zu tun haben, ermutigte, als Gastgeber für junge Künstler*innen in ganz Europa zu fungieren. Meine Residenz am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken war sehr inspirierend, weil ich mit Wissenschaftler*innen zusammenarbeiten konnte und mir die Arbeit mit Robotik und Gehirn-Computer-Schnittstellen viel Spaß machte. Die Residenz vermittelte mir wissenschaftliches Hintergrundwissen und wirkte sich auf viele meiner Kunstwerke aus, in die ich meine neu erworbenen wissenschaftlichen Kenntnisse zu integrieren versuche.
Sie nahmen zudem an einer Workshopreihe teil, die an neuen Zukunftsvisionen für ein Leben mit KI arbeitete. Welche Erkenntnis nehmen Sie aus dem „Envisions“-Programm mit?
Ich hoffe sehr, dass sich KI im Bereich Medizin weiterentwickeln wird, und ich denke, dass die Einbeziehung von Kreativität ebenfalls ein großes Plus sein könnte. Meine Vision für die Zukunft liegt in der Fusion künstlerischer Ansätze mit dem Bereich Medizin, da ich überzeugt bin, dass die Kreativindustrie und der Kultursektor in der Lage wären, einzigartige Lösungen für einige der medizinischen Probleme zu entwickeln, denen wir heute gegenüberstehen.
Bitte wählen Sie ein Statement aus dem „Envisions“-Film aus und verraten Sie uns, warum es wichtig ist, hinsichtlich der Zukunft von KI über dieses Thema zu sprechen?
„Wir brauchen mehr Bewusstsein, wir brauchen Transparenz, wir brauchen Bildung. Wir müssen diese Themen diskutieren, wie wir Popkultur diskutieren. Wir müssen die Macht von Regierungen und Unternehmen dezentralisieren und Ressourcen umverteilen. Wir müssen auf eine Zukunft hinarbeiten, die gegen Abbau ist. KI sollte Frieden fördern, nicht Macht. Es gibt so viel Potential für einen Wandel.“ Ich halte das für ein extrem wichtiges Statement. Und ganz konkret würde ich mich auf die Bedeutung der Bildung konzentrieren, weil ich der Meinung bin, dass der erste Schritt zu einem besseren Verständnis von Technologie eine klare Integration in staatliche Bildungsprogramme ist. Ich denke, wir müssen diese Programme auf nationaler, europäischer und globaler Ebene entwickeln, um ein besseres allgemeines Verständnis von KI sicherzustellen. Für mich ist Bildung ein grundlegender Schlüssel zu vielen der Fragen, die in Bezug auf KI ständig diskutiert werden.
Hintergrund
„Wie können wir neu konzipieren, wie wir heute mit KI leben? Wie möchten wir in Zukunft damit leben? Und wie sieht KI aus, wenn sie Ungerechtigkeiten aktiv bekämpfen möchte?“
Das sind einige der zentralen Fragen, mit denen sich das zweijährige Projekt „Generation A=Algorithmus“ gemeinsam mit einer Reihe von Partnern und in einer breiten Palette von Formaten beschäftigte – von Hackathons über künstlerische Residenzen bis hin zu einer Onlineserie virtueller „Couch Lessons“. Der Hauptfokus des Projekts lag dabei jedoch stets auf den zukünftigen Konsequenzen aktueller technischer Entwicklungen für eine Generation junger Menschen, die in einer zutiefst von KI und anderen digitalen Technologien geprägten Welt aufwachsen, aber in Bezug auf die politischen Entscheidungen, die dieses kommende Technologiezeitalter bestimmen, bislang unterrepräsentiert sind. Um dieser Generation eine Stimme in dem Prozess zu geben, organisierte das Goethe-Institut in Zusammenarbeit mit Feminist Internet – einem Kollektiv von Künstler*innen und Designer*innen – eine Reihe von Workshops mit dem Ziel, kollektiv eine Vision für eine Zukunft mit KI zu entwickeln. 54 junge Erwachsene aus 16 europäischen Ländern nahmen teil und trugen zur Entwicklung von Zukunftsvisionen bei, die die Handlungsmacht in die Hände junger Menschen legen und neu konzipieren, welchen Zweck KI hat und wem sie dienen soll. Ihre Hintergründe waren so vielfältig wie ihre Herangehensweisen an Technologie und umfassten Forschende, Kunstschaffende, Aktivist*innen und Politikberater*innen – sie alle steuerten ihre individuelle Sichtweise zu einem vielschichtigen Thema bei. Das Ergebnis ihrer kollaborativen Bemühungen war die Erstellung eines Visionspapiers und eines Kurzfilms, die jeweils kreative Lösungen für Probleme innerhalb der KI vorschlagen und Werkzeuge für zukünftige Entscheidungstragende bereitstellen. Der Film wurde im November 2022 beim KI-Festival „Wenn Maschinen Zukunft träumen“ gezeigt, das vom Goethe-Institut in Kooperation mit dem Deutschen Hygiene-Museum Dresden organisiert wurde und an dem auch eine Reihe derjenigen jungen Menschen teilnahmen, die an seinem Entstehungsprozess beteiligt waren. In den reflektieren einige von ihnen über ihre persönliche Herangehensweise an KI, ihre Beteiligung am Projekt „Generation A=Algorithmus“, insbesondere am „Envisions“-Programm, und ihre persönliche Vision für eine Zukunft mit KI.
