Der Wolf, den wir füttern: Ein Gespräch mit Octavio Kulesz

Herr Kulesz, was hat Ihr Interesse als Verleger und Unternehmer an Künstlicher Intelligenz (KI) geweckt? 
 
Ich habe die Entwicklung von KI seit 2016 genau beobachtet. Das war das Jahr, in dem das KI-Programm AlphaGo beim chinesischen Brettspiel Go den 18-fachen Weltmeister, Lee Sedol, geschlagen hat. 
 
Lee Sedol trat als Mensch gegen AlphaGo an, ein Programm, das Googles DeepMind Technologies Company entwickelt hat. Das heißt: Zum allerersten Mal wurde der menschliche Weltmeister in diesem alten chinesischen Strategiespiel von einem Computer geschlagen.
 
Genau. Was neben diesem überwältigenden Sieg – AlphaGo hat seinen menschlichen Gegner mit 4 zu 1 geschlagen – meine Aufmerksamkeit erregte, war der Kommentar von Fan Hui, einem anderen fantastischen Go-Spieler. Er äußerte sich über einen Zug, den die Maschine machte: „Das ist kein menschlicher Zug. Ich habe noch nie gesehen, dass ein Mensch einen solchen Zug macht. Das ist wunderschön. Wunderschön. Wunderschön.“ Seine Worte haben mich tief beeindruckt. Zu dieser Zeit arbeitete ich für die UNESCO an einigen Artikeln und untersuchte den Einfluss von Technologie auf die Vielfalt kulturellen Ausdrucks. Als mir klar wurde, dass Maschinen nicht nur eine enorme Rechenleistung haben, sondern auch kreativ sein können, habe ich angefangen, mich mehr damit zu befassen, wie Deep-Learning-Systeme künftig Kunst und Kultur revolutionieren könnten. Menschliches Gehirn gegen Computerprogramm: 2016 schlug das KI-Programm AlphaGo von Google den südkoreanischen Profi-Go-Spieler Lee Sedol (rechts; links: Aja Huang, Chefprogrammierer von Google DeepMind). | Foto (Detail): © picture alliance/AP Photo/Lee Jin-man Wo und wie ist unsere Kulturszene denn heute schon von KI beeinflusst? 
 
Der Einfluss von KI auf die Kulturbranche ist bereits beträchtlich und wird in Zukunft noch weiter zunehmen. Derzeit entscheiden Algorithmen, welche Bücher, Lieder und Filme wir in sozialen Netzwerken und auf anderen Plattformen angeboten bekommen. Uns muss aber auch bewusst sein, dass der Einfluss von KI auch an anderen Stellen der Kultur-Produktionskette rapide zunimmt: nicht nur im Vertrieb – über Empfehlungs-Algorithmen – sondern auch in Kreation und Herstellung. Deep Learning wird mehr und mehr genutzt, um Kunstwerke zu erschaffen.
 
Wie und wo profitieren Sie als E-Publisher wissenschaftlicher Bücher von KI? Welche Aufgaben übernehmen KI-Tools heute schon für Sie? 
 
Derzeit nutzen wir KI, um ähnliche Veröffentlichungen zu empfehlen und um Metadaten automatisch abzugreifen. Aber auch in anderen Bereichen kommen wir voran – zum Beispiel beim Standardisieren bibliographischer Referenzen.
 
Was bedeutet es für die menschliche Kreativität, wenn Maschinen Bilder malen und Musikstücke komponieren können?
 
Disruptive Technologien zwingen Künstler*innen und die Kreativindustrie oft dazu, sich neu zu definieren. Im Zusammenhang mit KI bereiten Deep-Learning-Systeme wie Generative Adversarial Networks (GANs) den Weg dafür, dass Künstler*innen den Umfang ihrer Inspiration und ihres Schaffens exponentiell ausweiten können. Wir sollten daher eine neue Beziehung zu dieser Art von Technologien aufbauen. Maschinen werden Künstler*innen nicht ersetzen, aber sie fordern sie heraus, ihre Rolle zu überdenken. Es ist kein Zufall, dass viele KI-Künstler*innen ihre Werke nicht mit ihrem eigenen Namen signieren, sondern ein Pseudonym nutzen, das sowohl auf sie selbst als auch auf die Maschine verweist. So, als hätten beide – Mensch und KI – an dem Stück zusammengearbeitet.
 
Als Sie im Dezember 2020 auf der EUNIC AI Week mit dem Mathematiker Marcus de Sautoy diskutierten, sagte er, KI erfülle alle drei Kriterien für Kreativität: Sie produziere Werke, die neu, überraschend und wertvoll seien. Sehen Sie das auch so? Und wenn ja: hat KI dann Künstler-Status erreicht?
 
Ich stimme Marcus zu, dass diese drei Elemente entscheidend sind für die Definition von Kreativität. Allerdings kommt meiner Meinung nach noch ein vierter Aspekt hinzu: Die Absicht, schöpferisch zu sein. Maschinen haben weder Absicht noch Willen, zumindest derzeit noch nicht. Daher würde ich sagen, dass man sie noch nicht als echte Künstler*innen bezeichnen kann.
 
Welche Vorteile sehen Sie in KI für das kulturelle Schaffen? 
 
Ich glaube, KI-Systeme können uns in vielerlei Hinsicht helfen, unsere Kreativität zu steigern. Zunächst bei der Inspiration: KI kann uns befähigen, automatisiert hunderte und tausende Entwürfe zu erstellen, die wir dann selektieren können, neu kombinieren, etc. Das ist ganz klar der Fall beim französischen Künstlerkollektiv Obvious Art, das GANs genutzt hat, um erfolgreiche Gemälde zu erstellen. Darunter etwa Edmond de Belamy, das sich 2018 für 435.000 Dollar verkauft hat. KI-Tools erlauben uns, effizienter zu werden und Herstellungsprozesse, die früher Wochen oder Monate gekostet hätten, innerhalb weniger Sekunden auszuführen. Tools wie Adobe Sensei und andere führen Video-Bearbeitung, Farbkorrektur, Bildstabilisierung und visuelle Effekte sehr viel schneller durch, als wir Menschen es könnten. KI kann für Newcomer*innen deshalb auch den Eintritt in den Kreativsektor erleichtern. Das Porträt von Edmond de Belamy des französischen Künstlerkollektivs Obvious Art wurde mithilfe Künstlicher Intelligenz erstellt und im Oktober 2018 im Auktionshaus Christies in New York für 435.000 US-Dollar verkauft. | Foto: © picture alliance/AP Photo/Christies Das überrascht mich, denn KI-Technologien sind nicht gerade leicht zugänglich.
 
Es stimmt, dass KI-Techniken nicht leicht zugänglich sind – für traditionelle Künstler wie Gitarrist*innen, Maler*innen, Bildhauer*innen und andere. Aber KI könnte denen, die keine Expertise in einem bestimmten kreativen Feld – wie Musik, Malerei, Bildhauerei – haben, dazu verhelfen, kreativ zu werden. Nutzer*innen beispielsweise, die keine Ahnung von Orchestrierung haben, können innerhalb weniger Minuten eine Symphonie komponieren, indem sie Systeme wie AIVA oder Amper nutzen. Auf diese Weise nimmt KI vielen Nutzer*innen, die keine künstlerische Ausbildung haben, die Hürden. Das könnte dazu führen, dass einige Profis aus der Kreativindustrie es künftig schwieriger haben werden.
  
An welche kreativen Berufe denken Sie dabei?

KI erlaubt es, gewisse Aufgaben zu automatisieren. Somit werden künftig einige Tätigkeiten, die bislang Menschen übernommen haben, zumindest teilweise an Maschinen delegiert. Dazu gehören Übersetzung, Korrekturlesen, Graphikdesign, Musik-Komposition und Bild- und Videobearbeitung. Das heißt nicht, dass diese kreativen Berufe komplett automatisiert und ersetzt werden. Aber wenn Maschinen es schaffen, eine bestimmte Prozentzahl dieser Tätigkeiten zu übernehmen, werden diejenigen, die mit KI-Techniken umzugehen wissen, profitieren – während diejenigen, die das nicht tun, Probleme haben werden.

Wie groß ist das Risiko, dass der Einsatz von KI zu einer noch höheren Marktkonzentration der großen Technologieunternehmen führen wird? 
 
Die große Gefahr von KI liegt nicht in einer möglichen Revolte der Maschinen – das ist derzeit nicht mehr ist als ein populäres Science-Fiction-Szenario – sondern darin, dass die großen Technologiekonzerne zu viel Macht erlangen. Marktkonzentration ist immer schädlich. Im Kultursektor liegt die Gefahr darin, dass Monopole oder Oligopole entstehen könnten – und zwar nicht nur bei der Verteilung kultureller W und Dienste sondern auch bei ihrer Erschaffung und Produktion. 
 
Wenn zum Beispiel Google, Apple, Facebook und Amazon (GAFA) nicht mehr nur kulturelle Güter vertreiben, sondern diese auch selbst produzieren.
 
Genau. Die wertvollste Ressource großer, als Plattformen operierender Technologiekonzerne sind Daten. Sie ermöglichen es den Unternehmen, die gesamte Wertschöpfungskette zu beherrschen: Erstellung, Produktion und Vertrieb. Es gibt nicht mehr die klassische horizontale Konzentration, bei der ein paar mächtige Player ihre Konkurrenten aufkaufen. Heutzutage bilden die Technologie-Titanen geschlossene Marktplätze. Sie dominieren nicht ein bestimmtes Segment, sie selbst sind der Markt. Durch die weitverbreitete Nutzung von KI wird dieser Trend verstärkt. 
 
Wenn KI zum Schöpfer kultureller Güter – visueller, musikalischer oder literarischer Werke – wird, bei wem liegt dann das Copyright? Beim Software-Entwickler oder der Software-Entwicklerin, die die KI programmiert hat? Beim Technologiekonzern, dem die KI gehört? Bei der menschlichen Künstlerin oder dem Künstler, von dem die Maschine gelernt hat? Bei einer Kombination dieser drei? Oder bei niemandem?
 
Das ist die Schlüsselfrage, wenn es um KI und Kunstschaffen geht. Ich habe diese Frage ausführlich in einem Leitfaden über KI in Kunst und Kreativindustrie diskutiert, den ich kürzlich zusammen mit Thierry Dutoit geschrieben habe. Er wurde von der internationalen Organisation der Frankophonie (OIF) und der Agentur Wallonie-Bruxelles International (WBI) herausgegeben. Die Debatte besteht fort. Aber die Rechtsprechung tendiert dazu, diejenigen, die die KI nutzen, um Werke zu erschaffen, als die tatsächlichen Schöpfer*innen zu betrachten. Eines ist jedoch klar: Die Maschine kann nicht als Schöpfer gelten, da ihr die Intention fehlt.
 
Im Vertrieb verteilt KI kulturelle Güter individuell nach den Wünschen der Konsument*innen: Könnte das nicht dazu führen, dass gemeinsame Narrative und Diskurse verloren gehen und eine Welt entsteht, in der jede*r Einzelne sein eigenes Kulturprogramm konsumiert? 
 
Vor etwa zehn Jahren prägte Eli Pariser den Ausdruck „Filterblase“ für das Informations-Universum, das Algorithmen für jede*n einzelne*n von uns erstellen. Soziale Netzwerke neigen dazu, Echo-Kammern zu erschaffen, die unsere Ansichten verstärken und uns in vielen Fällen in Subgruppen isolieren. KI wird nicht nur genutzt, um Inhalte zu verbreiten, sie könnte auch dazu genutzt werden, diese so zu erschaffen, dass sie den Geschmack einzelner Kund*innen genau treffen. So würden wir in die Situation einer „perfekten Blase” kommen, in der kultureller Ausdruck automatisiert und personalisiert generiert würde. Bedeutung, Werte und gemeinsame Narrative würden damit nicht mehr vermittelt. Die Frage ist, ob eine Gesellschaft ohne gemeinsame kulturelle Identität überhaupt lebensfähig ist.  Octavio Kulesz | © Octavio Kulesz
 
KI schafft auf jeden Fall neue Chancen und kreative Möglichkeiten – Tools, Einflüsse und Ausdrucksformen. Zugleich engt sie den kreativen Raum ein, etwa durch begrenzten Zugang zu Technologie, den Einfluss der Technologiekonzerne, soziale Blasen usw. Ist das ein unlösbarer Widerspruch?
 
Wenn sich der aktuelle Trend fortsetzt, ist es sehr wahrscheinlich, dass wir eine Explosion kreativer Inhalte erleben werden – aber auch eine stärkere Marktkonzentration. Dieses Problem wiederholt sich übrigens mit jeder neuen Technologie. Wir müssen mehr beachten als nur den absoluten Wohlstandseffekt, der generiert wird, sondern auch genauer hinschauen, wie dieser Reichtum unter den verschiedenen Beteiligten verteilt ist. Es ist an uns allen – Nutzer*innen, Künstler*innen, Unternehmern, Politiker*innen und anderen – uns auf ein gerechteres, pluralistischeres und vielfältigeres Szenario zu einigen. 
 
Welches Fazit ziehen Sie denn für den jetzigen Moment: Erweitert KI die Vielfalt kulturellen Ausdrucks oder begrenzt sie diese? 
 
Technologien haben kein Eigenleben. Entscheidend ist, was wir mit ihnen anstellen – oder eben nicht. Diese Situation erinnert mich an die Geschichte von den zwei Wölfen: Ein alter Indianer lehrt seinen Enkelsohn über das Leben. „Es tobt ein Kampf in mir”, sagt er dem Jungen. „Es ist ein schrecklicher Kampf zwischen zwei Wölfen. Der eine ist böse – er steht für Wut, Neid, Sorgen, Bedauern, Gier, Arroganz und Ego. Der andere ist gut“, fährt er fort. „Er ist Freude, Friede, Liebe, Hoffnung, Gelassenheit, Freundlichkeit und Mitgefühl. Der gleiche Kampf findet in deinem Inneren statt und in uns allen.“ Der Enkelsohn denkt einen Moment über das Gesagte nach und fragt dann den Großvater: „Welcher Wolf wird siegen?“ „Der, den du fütterst“, antwortet der alte Indianer. Wir alle sind im gleichen Dilemma: Je nachdem, welche Entscheidungen wir in den kommenden Jahren treffen, kann das kulturelle Ökosystem lebendig und pluralistisch werden. Oder es kann von einer Handvoll Technologiekonzerne kontrolliert werden, die eine rein utilitäre Vision von Kunst haben.

Dieses Interview wurde gekürzt. Es kann in seiner ursprünglichen Länge auf der Goethe-Institut Website One Zero Society angesehen werden.