Die Angst vor Maschinen ist nicht neu. Von frühen Beispielen mörderischer Roboter in der Popkultur bis hin zur Unwahrhaftigkeit von ChatGPT nimmt uns Priscilla Jolly mit auf eine Reise durch die gefährliche Welt betrügerischer Maschinen.
ChatGPT beherrscht seit der Markteinführung die Nachrichtenlage. Allerdings konzentriert sich die Berichterstattung nicht immer auf die positiven Aspekte des Sprachmodell-Chatbots. Reportagen zeigen, wie OpenAI kenianische Arbeiter für weniger als zwei Dollar pro Stunde dafür einsetzte, die Software von Vorurteilen zu befreien oder wie generative KI zum Schummeln in Klausuren an den Universitäten genutzt wird, was eine Diskussion in der Hochschulbildung auslöste. Neben diesen Entwicklungen wurde das Sprachmodell in diverse „Kulturkriege“ verwickelt. David Rozado, ein Datenwissenschaftler, hat ein Sprachmodell namens RightWingGPT entwickelt, das auf Aufforderung konservative Standpunkte produziert. Rozado schuf dieses Modell als Reaktion auf seine Erkenntnisse, dass ChatGPT „linksgerichtete Standpunkte“ zeige. Die beiden zuletzt genannten Entwicklungen - ChatGPTs Rolle in der Hochschulbildung und Kulturkriege - verdeutlichen eine kulturelle Befürchtung im Zusammenhang mit KI: seine Eignung zum gezieltem Missbrauch.Die zeitgenössische Gesellschaft ist Zeuge einer Intensivierung der „Kulturkriege“, die häufig auf politische Entwicklungen zurückgehen. Zwar scheinen diese Entwicklungen in den letzten Jahren an Dynamik gewonnen zu haben, doch sind KI und die kulturellen Ängste im Zusammenhang mit ihrer Arglist oder Bösartigkeit keine neuen Phänomene. Ähnlich wie Außerirdische in der Science-Fiction diente die KI als Vehikel, um das Unmenschliche zu repräsentieren. Eine der größten Ängste, die mit Außerirdischen in Verbindung gebracht werden, ist die vor einer Invasion und davor, dass sich Außerirdische im Verborgenen verstecken können, wie Filme wie Invasion der Körperfresser (1956) zeigen. Auch die künstliche Intelligenz kann wie in diese betrügerische Invasion durch etwas nicht Menschliches gesehen werden, eine Invasion durch das Andere.
Bösartige KI: „2001: Odyssee im Weltraum “
Stanley Kubricks Film 2001: Odyssee im Weltraum aus dem Jahr 1968 ist aufgrund seiner Kinematografie und seiner kargen Erzählweise zu einem Klassiker geworden. Der Film ist im Hinblick auf die KI vor allem interessant wegen der Figur des HAL 9000, eines Supercomputers, der das amerikanische Raumschiff Discovery One steuert, das auf dem Weg zum Jupiter ist. Der Konflikt im Film entsteht, als HAL vorhersagt, dass ein Antennensteuergerät auf dem Schiff ausfallen wird. Nach HALs Vorhersage verlässt einer der Astronauten das Raumschiff, um das Gerät zu bergen. Entgegen den Behauptungen von HAL funktioniert das Gerät einwandfrei. Diese Diskrepanz ist insofern von Bedeutung, als der Film mit einer Erklärung beginnt, in der HALs Unfehlbarkeit bestätigt wird. Es hieß, dass HAL 9000 noch nie einen Fehler gemacht oder Informationen verfälscht habe. Als HAL von dem Fehler erfährt, beharrt der Supercomputer darauf, dass es sich um menschliches Versagen handelte. Die Astronauten zögern, HAL die Kontrolle über das Schiff zu überlassen und beschließen, ihn abzuschalten, was sie in einer Gondel besprechen, in der HAL sie nicht hören kann. HAL verfolgt jedoch ihr Gespräch, indem er ihre Lippen liest, und es kommt zu einem tödlichen Konflikt.HALs Genialität bei der Entschlüsselung der Pläne, „ihn zu töten“, und die im Film verwendete Rahmung zeichnen das Bild einer KI, die heimlich Informationen sammelt und nicht zögert, sie zum Nachteil der Menschen einzusetzen. Nehmen wir zum Beispiel die physische Darstellung von HAL im Film. Der Zuschauer sieht konzentrische Kreise: einen äußeren Kreis, der einen roten Lichtring umschließt, in dem sich eine gelbe Pupille befindet - ein Roboterauge, das alles auf dem Schiff sieht. Kombinieren Sie diese Darstellung von HAL mit dem kreisförmigen Bildausschnitt, der im Film immer wieder auftaucht. Die Zuschauer blicken in kreisförmige Türen und Fenster. Dieser Bildausschnitt erinnert an den Blick durch eine Linse, wie ihn HAL hat. Mit dem lippenlesenden Computer und seinem linsenförmigen Bildausschnitt erinnert 2001 an eine der größten Befürchtungen im Zusammenhang mit KI: die Überwachung.
Sie sind unter uns: Versteckte KI in “Alien”
Ridley Scotts Alien (1979) verbindet die Ängste vor Außerirdischen und KI. Auf dem Rückweg zur Erde empfängt das Raumschiff Nostromo eine Übertragung von einem Mond im Weltraum. Die KI des Schiffes weckt die Besatzung, die sich in Stasis befand, um diese Übertragung zu überprüfen. Die Besatzung begibt sich auf den Mond, wo sie auf eine aggressive außerirdische Spezies trifft. Ein Außerirdischer greift ein Besatzungsmitglied an und heftet sich an das Gesicht des Menschen. Offizier Ripley besteht darauf, dass die Besatzungsmitglieder, die draußen waren, das Dekontaminationsverfahren durchlaufen, bevor sie das Schiff wieder betreten. Der Wissenschaftsoffizier des Schiffes, Ash, widersetzt sich jedoch Ripley und lässt die Besatzung ins Schiff, ohne sie zu dekontaminieren. An Bord tötet Außerirdische den menschlichen Wirt, entkommt und verschwindet im Schiffsinneren. Alle anderen Besatzungsmitglieder wollen den Außerirdischen töten, während Ash ihn untersuchen will. Als der Außerirdische die Besatzung tötet, entdeckt Ripley, dass ihre Arbeitgeber von dem Außerirdischen wussten und Ash geheime Aufträge erteilt hatten. Ash sollte Proben des Außerirdischen zurückbringen, auch wenn der Rest der Besatzung nicht überleben würde. Ash greift Ripley an, und der Zuschauer erfährt, dass Ash kein Mensch ist, sondern ein Androide, der im Dienste seiner Firmenherren steht.Im Film ist Ash für eine mögliche Invasion durch Außerirdische verantwortlich (die schließlich von Ripley vereitelt wird). Darüber hinaus verkörpert Ash eine der größten Ängste, die mit Außerirdischen und künstlicher Intelligenz in Verbindung gebracht werden: dass sie möglicherweise nicht von Menschen zu unterscheiden sind. Man denke auch an die sogenannten „Replikanten“ aus Blade Runner, bei denen das der Fall war. Im Film Alien wird bewusst die Befürchtung geschürt, dass sich eine Bedrohung, ob durch ein außerirdisches Wesen oder künstliche Intelligenz, im Verborgenen abspielen und die Menschen täuschen könnte.
Formlose KI: Täuschung und Deepfakes in „The Capture“
Während ältere Medien eine physische Darstellung von KI verwenden, ist das in neueren Werken anders. Ein Beispiel ist die britische Krimiserie The Capture, die seit 2019 ausgestrahlt wird. In den ersten Staffeln der Serie, die sich mit dem Problem der Deepfakes beschäftigen, wird zunächst die Geschichte des britischen Soldaten Shaun Emery erzählt, der beschuldigt wird, während seines Einsatzes in Afghanistan Kriegsverbrechen begangen zu haben. Der Soldat wird verdächtigt, seinen Anwalt entführt und ermordet zu haben, wobei er sich auf Videoaufnahmen stützt. Shaun streitet seine Beteiligung vehement ab. In der folgenden Staffel geht es um Isaac Turner, den britischen Sicherheitsminister. Turner wird zu einem Live-Fernsehinterview eingeladen, doch die Aufnahmen werden so manipuliert, dass Turner eine andere Meinung vertritt als die, die er eigentlich sagen wollte (es folgen Spoiler für die Serie).In der ersten Staffel von Capture entdeckt der ermittelnde Beamte, dass Videoüberwachungsaufnahmen manipuliert wurden, um mit einer Technik zu täuschen, die die beteiligten Strafverfolgungsbehörden „Korrektur“ nennen. Die Serie zeigt, wie mehrere Nationalstaaten in die Korruption verwickelt sind: die Amerikaner (CIA), die Chinesen, die Russen und die Briten.
Während Alien die Ängste vor einer außerirdischen Invasion mit der künstlichen Intelligenz kombinierte, schürt Capture die gleichen Ängste für irdische Bedrohungen. Capture zeigt, wie Geheimdienste den Einsatz von KI zur Manipulation von Bildern rechtfertigen. Zum Beispiel besteht in der ersten Staffel die Motivation hinter den manipulierten Videoaufnahmen darin, Beweise dafür zu fabrizieren, „was wirklich passiert ist“, um eine Verurteilung zu gewährleisten. In Staffel 2 wird die Tech-Industrie vom Minister direkt angegriffen. Die gefälschte Version des Politikers im Live-Fernsehen wird schließlicheingesetzt, um die Gesichtserkennungstechnologie zu unterstützen. Die Begründung, dass KI-generierte Deepfakes für die nationale Sicherheit notwendig sind - als Schutz vor potenziellen Invasionen - wirft Fragen über den ethischen Einsatz von KI auf. Aber wann ist etwas „ethisch“? Und wer entscheidet, was als „ethische“ Nutzung von KI gilt?