Die Menschen der Antike waren fasziniert von Orakeln, jenen göttlichen Botschaften, die Rätsel aufdecken und die Zukunft vorhersagen konnten. Heute im digitalen Zeitalter haben wir etwas, das diesen Legenden geradezu entsprungen zu sein scheint: künstliche Intelligenz, KI, ein unsichtbares Wesen, das das Wetter für den nächsten Tag voraussagen, anhand eines Bildes Krankheiten erkennen und sogar die passende Musik für unsere jeweilige Stimmungslage aussuchen kann. Das hat schon etwas von Magie, oder? KI scheint einem modernen Propheten zu ähneln, der uns dabei hilft, Entscheidungen zu treffen, angefangen von den banalsten bis zu solchen, die das Potenzial haben, unser Leben radikal zu verändern.
Künstliche Intelligenz erstaunt mit ihrer Fähigkeit, Aufgaben auszuführen, für die traditionell menschliches Genie gefragt war – sei es die Erstellung von Bildern oder das Verfassen von Gedichten. Vielleicht standen Sie selbst schon sprachlos vor Fotos von Papst Franziskus in Designerkleidung oder vor Bildern modern gestylter historischer Figuren, um dann zu entdecken, dass sie nur das Werk eines Computeralgorithmus sind. Die Fähigkeit von KI, kreative Inhalte zu schaffen, ist tatsächlich erstaunlich. Und sie wirft eine interessante Frage auf: Wie können Algorithmen Bilder erstellen, die so überzeugend sind, dass sie den Betrachter verwirren?Zum Verständnis, wie KI funktioniert, muss man sich einen Prozess vorstellen, der aus drei Schritten besteht (Abbildung 1). Zunächst müssen Daten zusammengetragen werden, d.h. Menschen suchen die Informationen aus, die von den Systemen verwendet werden sollen (Abschnitt A). Danach kommt die Phase des Trainings, in der die Algorithmen diese Daten verarbeiten und analysieren mit dem Ziel, Muster herauszuarbeiten. Durch diese Analyse können sie die Fähigkeit entwickeln, beim Erhalt neuer Daten eine Antwort zu generieren (Abschnitt B). Der Prozess endet, wenn diese Algorithmen in der Form von Applikationen auf unsere Geräte gelangen und wir direkt mit ihnen interagieren können (Abschnitt C).
Abbildung 1. Erstellung eines KI-Modells
JENSEITS DER ALGORITHMEN
Derzeit erleben wir dank immer fortschrittlicherer Algorithmen wie ChatGPT eine regelrechte technologische Hexerei. Diese Systeme scheinen wirklich Orakel der Moderne zu sein und haben erstaunliche Fähigkeiten, Gedichte zu verfassen, Bilder zu analysieren oder auf die verschiedensten Fragestellungen zu antworten. Um diese Kapazitäten zu beurteilen, haben wir ChatGPT dazu aufgefordert, einen Abschnitt zum Thema Umwelt zu verfassen. Diese Übung beweist nicht nur seine Kompetenz, einen kohärenten Text zu schreiben, sondern gibt auch Anlass zum Nachdenken: Kann ChatGPT wirklich als moderne Entsprechung eines Orakels gelten?
Wenn man diesen Absatz liest und die grammatikalische Genauigkeit, das sorgfältig gewählte Vokabular und die Kohäsion der Gedanken betrachtet, könnte man glauben, er sei von einem Experten verfasst worden. Sehen wir uns aber genauer an, wie der Text zustande kam und welche Mechanismen seiner scheinbaren Perfektion zugrunde liegen.
Wenn er einen Text zu Umweltthemen schreiben sollte, würde ein Experte sicherlich um genauere Anweisungen bitten, um seine Analyse entsprechend auszurichten. ChatGPT dagegen assoziiert „Umwelt“ automatisch mit „Müll“, ohne an andere Möglichkeiten zu denken. Das liegt wahrscheinlich daran, dass während des Trainings des Algorithmus ein großes Textvolumen verwendet wurde, in dem diese Begriffe zusammen vorkamen. So hat das System gelernt, sie miteinander in Verbindung zu bringen, ohne andere Ansätze zu berücksichtigen. Diese Tendenz von Chat GPT, eine Antwort zu generieren, ohne zusätzliche Informationen zu verlangen oder den Zusammenhang zu berücksichtigen, führt dazu, dass manche Forscher diese Sprachsysteme als „stochastische Papageien“ bezeichnen, denn sie wiederholen Informationen, ohne sie in ihrer Tiefe zu verstehen. Trotzdem ruft die Fähigkeit der künstlichen Intelligenz, für fast jede Frage eine Antwort anzubieten, das Bild der antiken Orakel wach, denn schließlich waren auch deren Antworten für gewöhnlich rätselhaft und unverständlich.
Diese Analogie zwischen künstlicher Intelligenz und Orakeln zeigt deutlich, vor welcher großen Herausforderung wir als User stehen: Wollen wir unsere Entscheidungen wirklich nur auf Algorithmen stützen, so ähnlich wie es die Menschen der Vergangenheit taten, die Orakeln vertrauten? Manche Experten sehen in den Algorithmen Werkzeuge, anhand derer man durchaus objektive Entscheidungen treffen kann, während andere davor warnen, es sei riskant, blind auf die Technologie zu vertrauen. Um dieses Dilemma aufzubrechen und die Frage zu beantworten, ob KI als zeitgenössisches Orakel gelten kann, muss man sich vor Augen führen, dass sich diese Systeme oft aus einseitigen Daten speisen. Algorithmen formulieren ihre Antworten auf der Grundlage der Informationen, die sie erhalten, und daher sind die Ergebnisse, zu denen sie kommen, unweigerlich von dieser Einseitigkeit beeinflusst. Genau das ist in der vorherigen Übung geschehen: Als der Algorithmus um einen Text zum Thema Umwelt gebeten wurde, konzentrierte er sich auf Umweltverschmutzung und ließ andere mögliche Perspektiven außen vor.
Obwohl die Fähigkeit von Algorithmen, Inhalte zu erstellen, beeindruckend ist, muss daran erinnert werden, dass ihr Funktionieren auf den Daten beruht, die die Entwickler ihnen liefern. Ebenso wie die Orakel der Vergangenheit nicht unfehlbar waren und ihre Auslegungen von den Fragestellern analysiert werden mussten, müssen auch die Antworten der Algorithmen von den Usern evaluiert werden. All das bringt uns zu dem Ergebnis, dass Systeme künstlicher Intelligenz nicht die Orakel unserer Zeit sind, sondern eher Werkzeuge mit den ihnen eigenen Beschränkungen. Zwar sind sie bei der Bearbeitung von Aufgaben effizient, aber sie erfassen keine Zusammenhänge und erst recht keine Nuancen, wie ein Mensch es tun würde. Ihr Nutzen ist unbestreitbar, aber man muss sie unbedingt mit kritischem Blick nutzen und sich ihrer Grenzen bewusst sein.
Februar 2024