„We and AI”
Schöne, datafizierte Welt

Im Rahmen des Projekts „Generation A=Algorithmus“ hat das Goethe-Institut in Zusammenarbeit mit dem Weizenbaum-Institut eine Umfrage durchgeführt, die sich mit den Sorgen und Hoffnungen junger Europäer*innen in Bezug auf Künstliche Intelligenz befasst. Emilija Gagrčin, eine der Autor*innen der Studie, spricht im Interview über unerwartete Erkenntnisse.

Von Juliane Glahn

Frau Gagrčin, was hat Sie bei der Studie besonders überrascht?

Emilija Gagrčin: Was mich wirklich überrascht hat, ist, wie entspannt viele junge Menschen in Bezug auf automatisierte Entscheidungssysteme sind. Dass viele kein Problem damit haben, Fitnessempfehlungen von so einem System zu bekommen, ist vielleicht weder überraschend noch super problematisch. Allerdings hatte ein Drittel der Befragten kein Problem damit, dass ein Strafverfahren gegen sie auf der Basis einer automatisierten Entscheidung eingeleitet wird. Außerdem fühlten sich sogar 58 Prozent in Bezug auf „Predictive Policing“, also die Analyse von großen Datenmengen in der Strafverfolgung, um potenzielle kriminelle Aktivitäten zu identifizieren, wohl oder gleichgültig! Das finde ich wirklich besorgniserregend und für mich deutet es darauf, dass sich junge Leute mit den demokratischen und menschenrechtlichen Konsequenzen solcher Technologieanwendungen nicht oder nicht ausreichend beschäftigen.
 
Die aktive Recherche nach Nachrichten scheint aus der Mode zu kommen. Mehr als die Hälfte aller Befragten glaubt, dass sie über Social Media-Plattformen ausreichend gut informiert werden. Ist diese Einstellung nicht gefährlich?

Emilija Gagrčin: In der Tat sehen viele von uns online politische Inhalte und Nachrichten in ihren Social Media-Feeds, ohne sie gesucht zu haben. Dies weckt bei den Menschen aber den Eindruck, dass sie nicht mehr aktiv nach Nachrichten suchen müssen. Das bedeutet aber nicht, dass Menschen Nachrichten meiden, sondern dass einfach ein Gefühl besteht, dass man informiert sein kann, auch ohne sich aktiv zu informieren. Dass diese Einstellung entsteht, ist meiner Meinung nach erst einmal intuitiv, birgt aber in der Tat einige Probleme. Ein Problem liegt in der Art und Weise, wie Algorithmen Inhalte kuratieren, denn dies geschieht auf Basis des vorherigen Nutzer*innenverhaltens sowie der zugeschriebenen Nutzer*inneneigenschaften. Das führt aber dazu, dass nicht alle Nutzer*innen gleich „attraktiv“ für Nachrichten sind. Konkret bedeutet es, dass Menschen, die selten auf Nachrichten klicken und wenig mit Nutzer*innen interagieren, die Nachrichten teilen, auch seltener Nachrichten angezeigt bekommen. In dem Fall finden einen die Nachrichten also tatsächlich nicht unbedingt. Daher ist es äußerst wichtig, aktiven Nachrichtenkonsum als Gewohnheit zu pflegen, also ihn wirklich in den festen Ablauf des Alltags zu integrieren.
 
Was für Schlussfolgerungen ziehen Sie aus der Studie?

Emilija Gagrčin: Ich finde generell, dass das Verstehen von Funktionsweisen und Implikationen von algorithmischen Systemen zu einer Kulturtechnik werden sollte. Insoweit unterstreichen die Ergebnisse des Berichtes für mich die Notwendigkeit, angemessene Mittel bereitzustellen, um jungen Menschen dabei zu helfen, Chancen und Risiken von Künstlicher Intelligenz auf individueller wie gesellschaftlicher Ebene einzuschätzen und sie dabei zu stärken, sich in einer datafizierten Welt zurechtzufinden und souverän handeln zu können. Das ist wichtig in Bezug auf die Ausübung ihrer Rechte, zum Beispiel am Arbeitsplatz oder in der Schule. Auch etablierte Organisationen wie das Goethe-Institut spielen bei der Kompetenz- und Wissensvermittlung eine entscheidende Rolle. Als erfahrene Bildungsinstanzen wissen sie zum einen, wie man auch trockene und vermeintlich uninteressante Inhalte jugendgerecht aufbereitet und an junge Menschen bringt. Zum anderen fungieren sie als Vermittler*innen zwischen unterschiedlichen Akteur*innen aus der Politik, Wirtschaft, Kultur, Wissenschaft und der Zivilgesellschaft. Dadurch entstehen ganz wichtige Netzwerke, die Gespräche und gegenseitige Verständigung über fachliche und domänenspezifische Grenzen hinweg ermöglichen. Das ist auch sehr wichtig, denn nicht nur junge Menschen haben diese Kompetenzen zu entwickeln, sondern im Grunde die ganze Gesellschaft.