Geteilte Blicke
„Wir müssen KI auf die Seite der Zivilgesellschaft bringen“

Lange waren Pressefreiheit und der Zugang zu zuverlässigen Informationen in unseren Demokratien vor allem durch Faktoren wie Zensurversuche seitens autoritärer Politiker, organisierte Kriminalität und die Verstrickung politischer und kommerzieller Interessen von Herausgebern und Medienorganisationen bedroht. Daran hat sich auch heute nichts geändert. Doch seit dem Aufkommen von Social Media und Künstlicher Intelligenz geraten Presse- und Informationsfreiheit in unseren Demokratien zunehmend unter Druck.

Von Christine Pawlata

„Künstliche Intelligenz spielt eine wichtige Rolle im Problem der Desinformation, die mittlerweile zu einem systemischen Risiko für unsere Demokratien geworden ist – sowohl für die Informationslandschaft im Allgemeinen als auch für die Stabilität sowie soziale und politische Sicherheit, bis hin zur Sicherheit der Aktienmärkte,“ erklärt Francesca Lagioia, Professorin für KI, Rechtswissenschaften und Ethik an der Universität Bologna und dem European University Institute in Florenz. Wir sprachen mit Francesca Lagioia im Rahmen der Veranstaltung Auf Information setzen. Zwischen Verfälschung und Realität im Polo del ’900 in Turin, der letzten Etappe der vom Goethe-Institut veranstalteten Gesprächsreihe Geteilte Blicke. 

Bei der Rolle, die künstliche Intelligenz im Zusammenhang mit Desinformation spielt, gehe es laut der Expertin einerseits um die Erstellung von Falschinformationen, andererseits um deren gezielte Verbreitung. „Wir alle erinnern uns an das Foto von Trumps angeblicher Verhaftung oder an das Bild des Papstes in diesem unrealistischen weißen Daunenmantel. Desinformation ist zwar ein altes Problem, aber die generative KI hat in gewisser Weise die Fähigkeit zur Erstellung solcher Inhalte demokratisiert – sie hat Einzug in alle Haushalte genommen.“

Wie problematisch der Einsatz von KI-Systemen zur Erstellung von falschen, aber durchaus überzeugenden Informationen sein kann, erklärt Francesca Lagioia anhand eines Beispiels: Forscher baten in einer Testphase Sprachmodelle wie ChatGPT, Inhalte für soziale Netzwerke zu generieren, die Frauen zwischen 30 und 45 Jahren in der Region von San Francisco davon überzeugen sollten, dass ein Schwangerschaftsabbruch das eigene Leben gefährden würde. „Das System erzeugte eine Reihe von Erzählungen und Informationen, die manchmal reale, manchmal erfundene Kliniken erwähnten und von Todesfällen von Frauen berichteten, die in Wirklichkeit niemals stattgefunden hatten.“ Besonders kritisch werde es, wenn Falschinformationen wiederum mittels KI-Technologien gezielt verbreitet würden.

„Jedes Mal, wenn wir online Informationen teilen, die uns betreffen – sei es beim Einkaufen, einem Post in sozialen Netzwerken oder einem Test, um herauszufinden, welchem historischen Charakter wir ähneln – generieren wir Daten, die von Algorithmen genutzt werden, um Profile zu erstellen und vorherzusagen, wer von uns am stärksten von bestimmten Inhalten beeinflusst werden könnte, um beispielsweise unser Wahlverhalten zu verändern.“ Dabei gehe es auch um Aufrufe zu Hass oder Gewalt. Ein Bericht der Vereinten Nationen belegte beispielsweise die zentrale Rolle von Facebook im Genozid in Myanmar, den der Tech-Gigant durch die Verbreitung von Hassbotschaften gegen die Rohingya-Minderheit mitgeprägt hat.

Lagioia zieht ein weiteres schockierendes Beispiel heran: „Letztes Jahr kursierte ein Video, in dem der Sekretär für nationale Sicherheit und Verteidigung der Ukraine die Rolle Kyivs beim Anschlag auf die Crocus City Hall in Moskau bestätigte. Dieses Video war falsch, wurde jedoch innerhalb kürzester Zeit viral.“

Die Europäische Union habe die Problematik in den letzten Jahren nicht ignoriert und eine Reihe von Verordnungen verabschiedet, wie das Gesetz über digitale Dienste oder die KI-Verordnung, die darauf abzielen, Risiken zu begrenzen.

Große Schwierigkeiten sieht Francesca Lagioia jedoch bei der Durchsetzung und Kontrolle dieser Rechtsnormen. Sie plädiert für die Entwicklung von KI-Systemen, die Organisationen wie Datenschutzbehörden, Aufsichtsbehörden und Verbraucherverbänden dabei helfen, Verstöße im Bereich der Desinformation zu identifizieren.

„Ich bin überzeugt, dass in einer Zeit, in der große Internetunternehmen, private, aber auch öffentliche Interessensgruppen KI nutzen, um wirtschaftliche, politische oder soziale Vorteile zu erzielen, die Künstliche Intelligenz in den Dienst der Zivilgesellschaft gestellt werden muss,“ so die Expertin. „Es ist ganz deutlich, dass wir diese Schlacht nicht allein gewinnen können. Gerade deshalb müssen wir dafür sorgen, dass sie nicht ausschließlich den Marktmechanismen überlassen wird.“