Nóra Radó
Künstliche Intelligenz und die Technikethik | Die Contemplate-Initiative
Was bedeutet es in Zukunft, als Mensch zu leben, wenn wir in ein Zeitalter des technologischen und wissenschaftlichen Fortschritts eintreten, in dem künstliche Intelligenz, selbstfahrende Autos, Arbeitsroboter, die den Datenschutz ignorierenden sozialen Medien, elektronische Überwachungssysteme, Technologien zur Bearbeitung von Genen oder im Labor hergestelltes synthetisches Fleisch unser Leben bestimmen?
Der Ausbruch des indonesischen Vulkans Tambora im Jahr 1815 war der bislang größte Vulkanausbruch in der Geschichte der Menschheit. Diese unbeschreibliche Katastrophe löste in jenem Sommer nicht nur Schnee in New York aus, sondern sie führte auch zur Erfindung des Fahrrads. [1] Der Ausbruch der COVID-19-Pandemie im Dezember 2019, in Folge dessen die vermeintliche Normalität der Welt auf den Kopf gestellt wurde, ließ uns einerseits erkennen, wie fragil unsere Welt ist. Andererseits setzte die Pandemie innerhalb kürzester Zeit in den Bereichen Bildung, Gesundheitswesen und vielen anderen Bereichen eine Reihe von Innovationen in Gang. Und dies ist erst der Anfang einer neuen Blütezeit des Fortschritts. Aktuell steuert dieser noch schneller auf uns zu wie bislang. Ja, vielleicht sogar in einem tödlichen Tempo.
Wissenschaft und Technologie streben danach, unser tägliches Leben komfortabler, unsere Arbeit effizienter und unsere Lebensumstände vorhersehbarer zu gestalten. Entfliehen wir jedoch für einen Moment dem Dickicht von lauter Facebook-Likes, Google-Kalendern oder Apple Watch-Benachrichtigungen, stellt sich die Frage: Wohin führt uns dieser Weg? Was wird aus dem Menschen unter diesen immer komfortableren, effizienteren und immer mehr vorhersehbaren Bedingungen? Was wird aus dem Menschen, wenn ihn KI-basierte Programme durch die Stadt navigieren, wenn Algorithmen ihm empfehlen, was er abends auf Netflix sehen, oder was er essen soll, wenn er ein gesundes Leben führen möchte? Was wird aus dem Menschen, wenn auf künstliche Intelligenz gestützte Entscheidungen seinen Geschmack, seine Sichtweise und sein Denken zu lenken beginnen? Was wird aus dem Menschen, wenn Algorithmen berechnen, welche Mitglieder welcher Gemeinschaften zu potenziellen Straftätern werden könnten? Und wo bleibt dann das Prinzip der Unschuldsvermutung? Oder was wird aus dem Menschen, wenn die kommende Generation ständig unter der Kontrolle von Algorithmen steht und die individuelle Freiheit auf dem Altar der Sicherheit geopfert wird? Oder sollte die Frage eher lauten: Was bleibt von alldem, was menschlich ist, dann noch übrig?
Künstliche Intelligenz zeigt die Grenzen des Menschen auf
Ja, was bleibt dann noch vom Aspekt des Menschlichen übrig? Und was bleibt dann, inmitten von ständig steigenden CO2-Emissionszahlen, schrumpfender Biodiversität, stetig wachsendem Konsum und immer größeren Müllbergen von unseren Werten im Hinblick auf die Natur, die uns umgibt, noch übrig?
Mithilfe von Technologieexpert*innen, Sozialwissenschaftler*innen, Künstler*innen und Umweltschützern widmet sich das Contemplate-Team [2] ebendiesen Fragestellungen. Laut dem bekannten israelischen Historiker Yuval Noah Harari sind die drei größten Fragen der Menschheit im 21. Jahrhundert die folgenden: Was wird mit der Atomenergie passieren? Was tun wir, um die Klimakatastrophe zu stoppen? Und wie gehen wir mit disruptiven Technologien, einschließlich künstlicher Intelligenz, um? Angelehnt an diese Fragen gelangt die Contemplate-Initiative zu ihrer Hauptfrage: Was bedeutet das von Aristoteles vor Jahrtausenden definierte „gute Leben“ inmitten des rasanten technologischen Fortschritts und des ebenso rapiden Untergangs der Natur? Welche ethischen Fragen müssen wir stellen, die sowohl das Individuum als auch Gemeinschaften beeinflussen können? Wie können wir die Kurzsichtigkeit der profitorientierten Wirtschaft überwinden und uns auf langfristige Perspektiven konzentrieren? Wie können wir uns auf die kommenden Jahrzehnte vorbereiten?
Laut Michael Sandel birgt jede Technologie ein Versprechen und eine Gefahr zugleich. [3] Technologien bieten nicht nur eine Lösung für ein Problem, sondern drängen Individuen und Gemeinschaften auch in Situationen voller (oft unvorhersehbarer) moralischer Dilemmata, und diese ethischen Probleme müssen in Angriff genommen werden. Dafür gibt es heutzutage unzählige Beispiele. Wer hätte gedacht, dass vermeintlich neutrale, schlichte Datensätze voreingenommene Algorithmen hervorbringen würden, die eingebettet in Gesichtserkennungssysteme Persons of Colour schwerer erkennen lassen [4], Frauen bei der Arbeitssuche benachteiligen [5] oder bei der Bestimmung des Umfangs der Gesundheitsversorgung gewisse ethnische Gruppen bevorzugen [6]? Denken wir noch etwas weiter voraus und stellen uns vor, welche moralischen Dilemmata sich ergeben würden, wenn mit künstlicher Intelligenz ausgestattete Roboter tatsächlich Emotionen imitieren könnten! [7]
Diversität, Verantwortung und Sensibilität können das Pfand humaner Lösungen sein
Anstelle allzu zuversichtlicher Vorhersagen des technologischen Optimismus oder passivem Abwartens schlägt Contemplate vor, sich Problemen und berechtigten Sorgen zu stellen, um durch deren eingehende Untersuchung einen neuen Technologie-Konsens zu erzielen. Der Initiative zufolge sind die ethischen Dilemmata der Technologie mit Akteur*innen aus verschiedenen Bereichen der Wissenschaft und Kunst zu erörtern, die Schlussfolgerungen und vorhersehbaren Risiken einer möglichst breiten Masse zu vermitteln, um schließlich die negativen Auswirkungen zu verringern – bevor es zu spät ist.
Die junge, vom CEU Innovation Lab unterstützte Contemplate-Initiative will ein Forum für Sozialwissenschaftler*innen, Künstler*innen, umweltverbundene Naturfreunde, Umweltschützer*innen und Technologieexpert*innen schaffen, damit diese sich offen und ehrlich über ethische Bedenken hinsichtlich einzelner Entwicklungen, Produkte und Dienstleistungen austauschen können. Diese Diskussionen wiederum können Entwicklungsunternehmen dazu anregen, ihre Innovationen nachhaltig und „zukunftssicher“ zu gestalten. Unter „zukunftsweisender“ oder „zukunftssicherer“ Technologie ist eine Innovation zu verstehen, durch welche menschliche Existenzbedingungen nicht untergraben werden, sondern in jeder Hinsicht ein sinnvolles menschliches Leben unterstützt wird – und das ohne Risiken und schwerwiegende Nebenwirkungen. Contemplate will einen Dialog im Hinblick auf konkrete Fragen führen: Wie könnten Risiken neuer Technologien gering gehalten und wie kann der Kreis jener, die von technologischen Neuerungen profitieren, ausgeweitet werden? Wie können die schädlichen externen Effekte der Technologie internalisiert werden (so zum Beispiel: Wie kann realisiert werden, dass die auf den Nutzer abgewälzten Kosten wieder an den Emittenten gekoppelt werden?)? Und welcher institutionellen Entscheidungsfindungsprozesse bedürfen die oben beschriebenen zukunftssicheren Technologien?
In jüngster Vergangenheit haben sich zahlreiche Forscher*innen dafür ausgesprochen, das unfassbare Potenzial von KI-basierten Algorithmen, Robotern und Technologien nicht unter Ausnutzung der Schwächen der menschlichen Natur anzuwenden und so noch mehr Profit für bestimmte Unternehmen oder noch mehr Stimmen für Anwärter*innen auf ein politisches Amt zu generieren. Das Center for Humane Technology, gegründet vom ehemaligen Ethikberater von Google, setzt sich beispielsweise dafür ein, dass das auf psychologischen Messungen aufbauende Konzept von Social Media und Smartphones die Fehlbarkeit der menschlichen Natur in Zukunft nicht mehr ausnutzt, sondern ausgleicht. Das AI Institute, das AI Now Institute, das Institute for Ethical AI & Machine Learning beziehungsweise das kürzlich von der University of Oxford gegründete Institute for Ethics in AI versuchen allesamt aufzuzeigen, mit was für moralischen Fragen und gesellschaftlichen Auswirkungen künstliche Intelligenz einhergeht, wie die Bedingungen für eine menschenwürdige Existenz und Freiheit individuell und auf Gemeinschaftsebene bewahrt werden und wie ein neuer Konsens für ein zukünftiges Zeitalter geschaffen werden können, in dem wir von noch intelligenteren Algorithmen und Maschinen umgeben sein werden, die mit noch viel größeren Datenmengen wie aktuell arbeiten. Ziel der Contemplate-Initiative ist es, durch einen im europäischen Denken verwurzelten, interdisziplinären Dialog einen Beitrag zu diesem Diskurs zu leisten.
Es liegt in unserer gemeinsamen Verantwortung, eine Veränderung des Menschen und der Umwelt durch die Technologie nur in dem Maße zuzulassen, das es auch den zukünftigen Generationen erlaubt, sich ihre eigene Vorstellung vom „guten Leben“ zu machen und dieses frei und unabhängig vom technologischen Zwang in einer intakten und gesunden Biosphäre zu führen. Nur so kann das Instrumentarium der Menschheit, das Bedeutung und Inhalt des „guten Lebens“ erörtert, erhalten bleiben.
Um dies zu ermöglichen, sollte unser Denken viel weniger marktorientiert und stattdessen vielmehr von menschlichen Komponenten geleitet sein. Wir müssen Technologie humanisieren. Das ist die Mission von Contemplate.
Quellen
[1] Standage, Tom, „Why global crises are the mother of invention: In 1815 volcanic eruption wreaked havoc around the world. But it led to the birth of the bicycle”, 1843 magazine, Stand: 20.11.2020
[2] Die Homepage von Contemplate. Stand: 20.11.2020
[3] Sandel, Michael J., The Case against Perfection: Ethics in the Age of Genetic Engineering, Harvard University Press 2007.
[4] Crumpler, William, „The Problem of Bias in Facial Recognition”, CSIS, Stand: 20.11.2020
[5] „5 Examples of Biased Artificial Intelligence”, Logically, Stand: 20.11.2020
[6] Kantarci, Atakan, „Bias in AI: What it is, Types & Examples, How & Tools to fix it”, AIMultiple, Stand: 20.11.2020
[7] Somers, Meredith, „Emotion AI, exlapined”, MIT Sloan, Stand: 20.11.2020