Aus dem Leben von Algorithmen
Viktor Wachstein: „Fortschritt der Technologien ist bei weitem nicht immer sozialer Fortschritt“
Ein Gespräch zwischen Denis Kurenov und dem Soziologe, Dekan der Fakultät für Sozialwissenschaften der Shaninka, Viktor Wachstein, setzt das Projekt "Aus dem Leben der Algorithmen" fort, das Colta mit Unterstützung des Goethe-Instituts in Moskau durchführt. Wachstein nimmt eine kühlere Haltung in Bezug auf Techno-Optimismus ein, der zum Beispiel für Andrei Sebrant charakteristisch ist, und entdeckt alte Ideen, die sich hinter einer neuen Hülle verbergen.
Von Denis Kurenov
- In 2018 wurde eine Ausgabe Ihrer Zeitschrift „Sociology of Power“ der digitalen Soziologie gewidmet. Und bereits im Vorwort des Redakteurs schrieb Denis Sivkov über die Verschwommenheit und Fragilität dieses Begriffes. Wie würden Sie die digitale Soziologie, ihre Sprache und ihre Forschungsgrenzen beschreiben? Wo beginnt „digital“ und wo endet es? Der Verlag Individuum veröffentlichte vor kurzem ein Buch von Daniel Susskind „Eine Welt ohne Arbeit. Technologien, Automatisierung und sollten Sie Angst davor haben". Die Veröffentlichung ist vor allem dadurch interessant, dass die Übersetzung dem System der künstlichen Intelligenz „anvertraut“ wurde. In 40 Sekunden wurden 650.000 Zeichen übersetzt, danach bearbeitete der Redakteur den erhaltenen Text.
Was sagt uns dieser Case? Ist dies nur ein kluger Schachzug der Verleger mit starkem Marketingpotential? Oder ist es der Beginn einer schönen neuen Welt, in der die Arbeit der Übersetzer durch Neuronetze ersetzt wird? Ist es überhaupt möglich, Bücher ohne einen menschlichen Übersetzer zu übersetzen?
- Dies ist eine schlagfertige Performance basierend auf Rekursion: die Übersetzung eines Buches ist eine Darstellung dessen Inhalts. Die Soziologen haben einen ähnlichen Witz: Das ACTI-System ist ein Roboterinterviewer, der für die Durchführung von Massentelefonumfragen entwickelt wurde. Er lernt an den richtigen Stellen zu kichern, zu scherzen, auf menschliche Weise erneut zu fragen, zu "jeppen" und im Allgemeinen vorzutäuschen, ein interessierter Soziologe zu sein. Die erste Umfrage mit einer Million Stichprobe, die dieser Roboter durchführen wird (sobald er den "Reverse-Turing-Test" endgültig besteht), sollte sich auch dem Problem der menschlichen Substitution widmen. Fürchten Sie, dass die Roboter Ihnen die Arbeit nehmen? Sind Sie der Meinung, dass ein Roboter die Aufgaben von X besser erfüllen kann als ein Mensch? Hoffentlich wird es am Ende eine Frage geben: „Um diese Studie durchzuführen, haben wir 200.000 indische Callcenter-Mitarbeiter der Arbeit beraubt. Was glauben Sie werden die jetzt tun?"
Man muss einfach einen Einzelfall (Übersetzung eines Buches durch einen Roboter oder eine Umfrage, durchführt vom Roboter) und einen sozialen Prozess (menschliche Substitution) trennen. In der Diskussion um die Veröffentlichung von Susskinds Buch bin ich ganz auf der Seite der Herausgeber. Dies ist aber genau „Solidarität eines Redakteurs“. Seit Jahren versuchen die Übersetzer ihren Aufwand zu minimieren - was unter den Bedingungen des russischen Marktes für intellektuelle Literatur ganz natürlich ist. Schließlich erhält der Übersetzer weder eine angemessene materielle Belohnung für die Übersetzung noch symbolisches Kapital (es geht vollständig an den wissenschaftlichen Redakteur und den Autor des Vorworts). Dementsprechend delegiert er einen Teil seiner Arbeit an den Redakteur, indem er seine eigenen Anstrengungen minimiert. In den Texten, die ich bearbeiten musste, gab es "Protestanten" (anstelle von "Protestteilnehmer"), "Rückkehr der Zhidai" (anstelle von "Jedi"). Meine Kollegen sind auf "Kindersex" (anstelle von "Kindergeschlecht"), "Jüngstes Gericht in Paris" (anstelle von "Das Urteil des Paris") und viele andere Geschenke von Übersetzern gestoßen. Wenn Sie immer noch jeden Satz neu schreiben müssen, ist es nicht einfacher, ihn nach dem Roboter neu zu schreiben? Nicht einfacher. Es ist schwieriger. Aber billiger.
Es gibt also vereinzelte Fälle von "Delegieren von Befugnissen" an die Maschinen (in der Soziologie der Technik wird dies als "Verschiebung des Delegationsgleichgewichts" bezeichnet), und es gibt ein großes Problem der menschlichen Substitution. Und die Angst, die sie verursacht hat. Laut unserer Studie "Eurobarometer in Russland" ist die Zahl der Menschen, die Angst haben, infolge der Entwicklung der künstlichen Intelligenz ihren Arbeitsplatz zu verlieren, in den letzten drei Jahren von 8% auf 26% gestiegen. In den USA befürchteten dies schon in 2017 fast drei Viertel der Bevölkerung.
- Wie global wird dieser Prozess der menschlichen Substitution Ihrer Meinung nach sein? Andrei Sebrant, einer der Hauptexperten für künstliche Intelligenz in Russland, sagte kürzlich in einem Interview, dass "die Mittelschicht wahrscheinlich einfach aussterben wird, weil 90% von dem, was sie jetzt tut, Algorithmen viel besser erledigen“. Stellen neuronale Netze wirklich einen ernstzunehmenden Konkurrenten für einen Menschen auf dem Arbeitsmarkt dar? Oder ist es ein kollektiver Tech-Traum der Atlanten aus dem Silicon Valley?
- Tech-Träume sollten ernst genommen werden. Obwohl sie viel mehr über heute als über den kommenden Tag sagen. Wo tauchte die Idee des Aussterbens der Mittelschicht auf? Sie ist doch lange vor der neuen technologischen Bedrohung durch die künstliche Intelligenz erschienen. Es ist halt so, dass die Kinder derer, die es gewohnt sind, sich als Mittelschicht zu bezeichnen, nicht mehr sicher sind, dass diese Wortverbindung irgendwie ihre eigene wirtschaftliche Lage der neuen "Proletarier der geistigen Arbeit" beschreibt. In der Wissenschaft hat sich diese Idee erst vor kurzem dank der Forschungen des Weltwirtschaftsforums und von McKinsey etabliert. Das WEF hat vor fünf Jahren angekündigt, dass bis 2020 durch neue Technologien rund sieben Millionen Arbeitsplätze abgebaut werden. McKinsey hatte drei Jahre zuvor noch umfassendere Verschiebungen versprochen, von 110 bis 140 Millionen Entlassungen. Und der Hauptschlag würde angeblich gegen das "mittlere Segment" erfolgen: Nur die bestbezahlten und die niedrig bezahlten Mitarbeiter werden ihre Arbeit behalten. Die Ersten - weil der Algorithmus sie noch nicht ersetzen kann, die Zweiten - weil es wirtschaftlich unrentabel ist.
- Es stellt sich heraus, dass die Automatisierung uns nicht den Weg zu einer neuen Realität öffnet, sondern nur die bereits bekannten neoliberalen Prozesse intensiviert? Und wie sehen im allgemeinen die Beziehungen zwischen Technologieentwicklung und zunehmender wirtschaftlicher Ungleichheit aus?
- Und lasst uns noch einmal unterteilen. Es gibt eine These, dass die „Automatisierung uns gut bekannte Prozesse intensiviert“. Es gibt eine These, dass "diese Prozesse neoliberaler Natur sind". Und die These, dass sie "nichts Neues mit sich bringt". Ich bin bereit meine Unterschrift nur unter der ersten These zu setzen.
Es ist wirklich schwierig für Soziologen der Technik das Gefühl loszuwerden, dass "sie dieses Brötchen schon irgendwo gesehen haben". Die bahnbrechendsten, revolutionärsten, wie man jetzt sagt - "disruptive" technische Innovationen erwecken die konservativsten, archaischsten und scheinbar unwiderruflich begrabenen Praktiken und Institutionen zum Leben. Soziale Netzwerke sollten die Welt transparenter und die Menschen "informierter" machen. Stattdessen belebten sie Stammesrituale von kollektiver Empörung, Steinigung, Mobbing und Verleumdung. Künstliche Intelligenz hat den uralten Traum verkörpert, die Welt zu entzaubern und zu entmystifizieren. Aber nur so entstanden sofort eine neue Religion - der Dataismus - und eine neue Kirche für künstliche Intelligenz (gegründet von Ingenieur Anthony Lewandowski). Fortschritt der Technologien ist bei weitem nicht immer sozialer Fortschritt.
Eine andere Frage ist, ob wir diesen Prozess in den guten alten Kontext der "Kritik an der neoliberalen Weltordnung" einpassen sollten. Als ob der Sinn, Zweck und die Rolle der Technologien ausschließlich darauf reduziert wären, die Armen ärmer und die Reichen reicher zu machen. Das von Marx im 13. Kapitel des Kapitals vorgeschlagene Erklärungsmodell (Kritik an den Technologien als Instrument der Ausbeutung) funktioniert im Hinblick auf moderne Technologien äußerst schlecht.
Über Zoom können wir noch sagen, dass es nur ein weiteres "Mittel zur Erzeugung von Mehrwert" ist, da sein Zweck darin besteht, "den Teil des Arbeitstages, den ein Arbeiter [oder ein Professor] für sich selbst nimmt, zu reduzieren und damit den anderen Teil seines Arbeitstages, den er dem Kapitalisten [oder der Universität] kostenlos gibt, zu verlängern. "Aber was ist zum Beispiel mit einem Roboterrichter? Besteht seine Vorbestimmung darin, den Richtern ihre Arbeit abzunehmen?
Die kritische Soziologie in ihrem Versuch, die "wahre" Natur der Technologien - welche mit der Ungleichheit, Vorrangstellung, Ungerechtigkeit verbunden ist - aufzudecken, erscheint überraschend archaisch, selbst wenn sie neue Instrumente der Kritik verwendet: „Künstliche Intelligenz ist männliche Intelligenz! Sie sichert und verstärkt die Geschlechterungleichheit! " oder „Künstliche Intelligenz ist eurozentrische Intelligenz! Sie ist gegenüber kulturellen Unterschieden unempfindlich! " Der Mehrwert solcher Überlegungen ist leider gering.
Was die dritte These betrifft - neue Realität ... Es scheint mir, dass sich Realitäten gar nicht in neue und alte teilen lassen. Die Realität (und hier folge ich den Phänomenologen) wird durch das Verhältnis zweier Parameter bestimmt: des Parameters, der uns zweifellos, fest, offensichtlich, „ohne Fragen akzeptiert“ erscheint und des, der Problematisierung, Zweifel, Streit, Kritik oder Verteidigung erfordert. Die technischen Durchbrüche der letzten Jahre haben uns veranlasst, sehr vertraute Dinge neu zu betrachten und ohne Beweis als wahr das anzuerkennen, was uns vor ein paar Jahrzehnten als völliger Unsinn erschien.
-Was verstehen Sie unter Dataismus als neuer Religion? Und wie ist die Haltung der Soziologie mit ihren positivistischen Wurzeln, von denen bis zum Ende des 20. Jahrhunderts anscheinend nichts mehr übrig geblieben ist?
- Dataismus im engeren Sinne ist die Philosophie von Yuval Harari. Ein sehr naives, aber für viele attraktives Umdenken der Welt als einen Datenfluss. Dataismus im weitesten Sinne ist der Glaube, dass, egal wie zufällig, ephemer, vergänglich und unbedeutend die Ereignisse der Welt um uns herum sind, ihre digitalen Darstellungen -"Spuren" und "Schatten", die verallgemeinert, aggregiert und bearbeitet sind, uns den Zugang zur wahren Welt als solcher, zur Realität per se gewähren. Lassen Sie mich ein großes Zitat aus dem Buch von Adam Greenfield widergeben („Radikale Technologien. Design des Alltags “. - Red.), der beschreibt, wie sich die Dataisten eine moderne Stadt vorstellen:
„In dieser Stadt ist der Standort jeder Person, die ein Mobiltelefon besitzt, bekannt, unabhängig davon, ob es mit Geolocation-Technologie ausgestattet ist oder nicht, selbst wenn es ausgeschaltet ist. Jede Transaktion in einem Bistro, Geschäft oder Kaffeehaus hinterlässt eine Spur, genauso wie jeder Bus, jedes Auto oder Fahrrad von einem Stadtverleih einen digitalen Schatten wirft. Selbst diejenigen, die im Wald von Bouillon joggen, generieren einen ständig wachsenden Datenstrom über die zurückgelegten Kilometer und die verbrannten Kalorien. Das ist Paris - ganz und auf einmal. In jeder früheren Epoche wären all diese Ereignisse unbemerkt und nicht aufgezeichnet worden. Selbst der aufmerksamste Beobachter konnte nicht hoffen, auch nur den kleinsten Teil dieser Ereignisse zu sehen und in Erinnerung zu behalten, egal wie lange seine Beobachtung dauerte. Und alle Informationen oder potenziellen Einfälle, die im Strom der Ereignisse auftauchen, fielen wie Nieselregen zu Boden, für immer verloren für Selbstbeobachtung, Analyse und Erinnerung. Aber heute können diese Flüsse, falls gewünscht, in Bezug auf Zeit und Ort verfolgt werden. Latente Muster und unerwartete Korrelationen können aufgedeckt werden, was wiederum wirksame Interventionen für diejenigen nahe legen kann, die sie kontrollieren möchten. “
Die Ironie besteht darin, dass diese neue, optimistische, enthusiastische Ideologie eine sehr alte Sicht auf die soziale Welt wiederbelebt hat, die in der französischen Soziologie Ende des 19. Jahrhunderts verwurzelt ist. (Sie wird zwar manchmal als positivistisch bezeichnet, aber dies ist keine genaue Definition.) Die Vorstellung von der Gesellschaft als Ganzheit, Gesamtheit, Realität ihrer Art, die über gewöhnlichen Sterblichen hängt. Die Gesellschaft ist Gott, das Höchste Wesen. Diese Ansicht verdanken wir Emile Durkheim. In der Soziologie hat der Dataismus daher mit "digitalem Durkheimianismus" reagiert: Als ob Big Data uns das Gesicht eines Höchsten Wesens zeigen würde. Ein weiteres Beispiel dafür, wie neue Technologien alte Ideen wiederbeleben.
Ein Geolocation-Tag ist nur ein Tag. Aber eine Milliarde aggregierter Tags ist bereits eine Gesellschaft! Die Magie der Aggregation verwandelt sich in die animistische Religion von Big Data nach dem Prinzip „Ich habe es aus dem geknetet, was es gab und dann habe ich das Ergebnis zum Gott gemacht“. Infolgedessen fragen wir uns nicht mehr über die Verbindung zwischen dem „digitalen Schatten“ und dem, was ihn wirft - es könnte Ihr Auto sein, das eine doppelte durchgängige Linie überquert, oder es könnte der Schatten Ihres Autos sein. (Es spielt keine Rolle! Das Gesetz der großen Zahlen funktioniert, einzelne Abweichungen haben keine Bedeutung!) Wir stellen uns nicht mehr die Frage nach der spezifischen "Blindheit" der Aggregation - nach dem, was systematisch nicht auf dem Monitor erscheint. (Es spielt keine Rolle! „Fehler des Überlebenden“ passieren, aber früher oder später wird das System lernen, sie zu korrigieren.) Schließlich fragen wir uns nicht mehr, wie sich "Daten" in "Taten" verwandeln. Sei es Handlungen eines Arztes, der mithilfe eines Expertensystems eine Diagnose stellt, oder Handlungen einer Drohne, die einen "Signaturschlag" liefert.
- In 2018 wurde eine Ausgabe Ihrer Zeitschrift „Sociology of Power“ der digitalen Soziologie gewidmet. Und bereits im Vorwort des Redakteurs schrieb Denis Sivkov über die Verschwommenheit und Fragilität dieses Begriffes. Wie würden Sie die digitale Soziologie, ihre Sprache und ihre Forschungsgrenzen beschreiben? Wo beginnt „digital“ und wo endet es?
- Für mich scheint die Wortverbindung „digitale Soziologie“ unglücklich zu sein. Teilweise wegen ihrer Konstruktion. Es gibt zum Beispiel einen großen Unterschied zwischen der "Soziologie des Alltags" und der "Alltagssoziologie". Die erste ist das, was Wissenschaftler tun, wenn sie soziale Interaktionen hier und jetzt von Angesicht zu Angesicht analysieren. Die zweite ist die Weltanschauung eines Taxifahrers, der die Wörter "Schicht", "Ausbeutung" und andere soziologische Begriffe verwendet, um seine Lebenserfahrung zu klären. Es gibt eine "Soziologie der Kultur" und eine "Kultursoziologie". Die erste versucht kulturelle Phänomene durch die soziale Struktur, alltägliche Interaktionen oder wirtschaftliche Prozesse zu erklären. Die zweite verwendet "Kultur" nicht als Objekt, sondern als Erklärungsquelle.
Bereits an diesen beiden Beispielen kann man sehen, dass wenn die „digitale Welt“, „technologische Innovationen“ und die „künstliche Intelligenz“ für uns Forschungsobjekte sind, es gar nicht um eine „digitale Soziologie“ geht. Es geht um die gute alte "Soziologie der Technik". Und jede Stunde erscheinen immer mehr solcher Studien. Die digitale Soziologie wird in dem Moment erscheinen, in dem selbst die Idee des „Digitalen“ der Idee des „Sozialen“ entgegengesetzt sein wird, außerdem wird das „Soziale“ durch das „Digitale“ erklärt. Glücklicherweise sieht man dies noch nicht.
- Die Digitalisierung scheint jedoch bereits so allgegenwärtig zu sein, dass der moderne Luddismus nicht wie eine Ablehnung der Technologien aussieht, sondern wie ein Rollback auf frühere Technologien: Druckknopf Nokia anstelle von Smartphones, E-Mail-Korrespondenz anstelle von Messenger. Und selbst die Weigerung, ständig in das Smartphone zu gucken, stimuliert das Programm im selben Smartphone. (In England haben Schulen und Universitäten beschlossen, eine spezielle Hold-App zu verwenden, die Schüler und Studenten dazu anregt, das Gadget nicht zu verwenden. Je seltener Sie Ihr Smartphone entsperren, desto weniger Zeit verbringen Sie damit, desto mehr Punkte erhalten Sie. Diese Punkte können dann in Kaffee an der Universität, Popcorn im Kino, Ermäßigungen in Geschäften umgewandelt oder für wohltätige Zwecke gespendet werden.)
- Im modernen Luddismus zerstört eine Menge empörter Bewohner einen Zellturm, weil durch den die von Bill Gates angeheuerten Reptiloiden die Menschen bestrahlen, um sie zu Liberalen zu machen.
Und was Sie beschreiben, ist ein ziemlich altes Phänomen: die Risiken, die durch die Entwicklung einer bestimmten Technologie verursacht werden, versucht man durch Gegentechnologie, dieselbe Technologie oder Technologie der vorherigen Epoche, zu stoppen.
- Aber diese Ludditen, obwohl sie einen Funkzellturm zerschlagen, rufen ihre Unterstützer über WhatsApp auf, dies zu tun. Meiner Meinung nach die gleiche Situation wie bei der App in England.
- Nicht ganz. Die Tatsache, dass der Kampf gegen Technologie mittels Technologie geführt wird, ist an sich kein Problem. Das war schon immer so. Eine andere Frage ist, nach welchem der drei beschriebenen Szenarien dieser Kampf geführt wird.
Das erste Szenario wendet sich der "Warm and Lamp" -Technologie der vorherigen Stufe zu. Beispielsweise fahren Elektrofahrzeuge zu leise und schaffen somit Risiken für Fußgänger (insbesondere für Blinde und Sehbehinderte). In Japan und der Europäischen Union werden Gesetze verabschiedet, nach denen Hersteller "künstliche Geräuschsysteme" installieren müssen, die das Geräusch eines Motors simulieren. Bessere Technologie ahmt gute Technologe nach, um das Risiko ihrer Implementierung zu verringern.
Das zweite Szenario ist, dass eine Technologie einer anderen entgegengesetzt ist. Die Proteste in Hongkong haben gezeigt, wie das funktionieren kann. Der Kampf gegen die Gesichtserkennung wurde mit Hilfe eines speziellen Make-ups durchgeführt, welcher die Deanonymisierung erschwert. Die Koordination der Aktionen erfolgte in Tinder und Pokemon Go. Den Versuchen, Demonstranten mit CCTV-Kameras zu identifizieren, wurden symmetrische Methoden zur Berechnung von Polizeibeamten in eigenen Reihen (auch mit Überwachungskameras und Gesichtserkennung) dagegengestellt.
Schließlich, das dritte Szenario - das ironischste und rekursivste. Der Kampf gegen eine bestimmte Technologie wird mit Hilfe derselben Technologie geführt. Einer bekannten Legende nach besprechen russische Beamten den Entwurf eines Telegram-Verbots im Telegram selbst (als im sichersten Messenger).
- Sie haben über Technologien gesprochen, die alte Ideen wiederbeleben. Und gibt es irgendwelche neue Ideen, die mit Technologien kommen?
- Ideen sind grundsätzlich den Technologien ähnlich. Beide werden durch ihre Wirkung definiert, durch das, was sie tun. Beide stellen neue Antworten auf alte Fragen dar. Aber sie werden nicht im Moment ihrer Geburt neu, sondern wenn sie etablierte, verständliche, offensichtliche und vertraute Lösungen verdrängen. Das heutige Bioprinting lässt uns die Grenze zwischen Lebendem und Unbelebtem noch einmal überdenken. Ist eine gedruckte Milz eine "lebende" Milz? Yusef Khesuani (ein führender Bioprinting-Fachmann in Russland) stoßt jedoch auf das Problem im internationalen Patentrecht: Lebende Objekte sind nicht patentrechtlich geschützt, und alles, was „von der Natur und / oder Gott geschaffen“ wird, wird als lebendes Objekt betrachtet. Prothetik und Organdruck problematisieren die bestehende Definition des Lebens, aber ob sie eine neue erzeugen können, ist noch offen.
- Fast jedem ist bereits klar, dass Algorithmen und künstliche Intelligenz ein Thema sind, dessen Fähigkeiten um ein Vielfaches, sogar um das Zehn- bis Hundertfache übertrieben sind, aber dennoch sind einige derjenigen, die diese Welle jetzt gefangen haben, Herren des Lebens: Silicon Valley mit seinen Startups usw. Und was sagt uns das über den Moment? All diese Tech-Träume der Atlanten, die zum Mainstream, dem Bild der Utopie geworden sind, - was erzählen sie uns über die heutige Gesellschaft?
- Wahrscheinlich die Tatsache, dass es sich nicht lohnt, die Vielfalt der ablaufenden Prozesse unter den gemeinsamen Nenner der „modernen Gesellschaft“ zu stellen. Technologien sind kein Spiegel, und die Gesellschaft ist keine böse Zauberin aus einem berühmten Märchen. Egal wie sehr ein Soziologe auf einen Hocker klettern und über den "Zeitgeist", die "moderne Gesellschaft", die "neue techno-soziale Realität", die "digitale Demokratie" und andere obskure Dinge predigen möchte - dies ist das Vorrecht nicht von Soziologen, sondern öffentlichen Intellektuellen.
Copyright: Material im Rahmen eines Sonderprojekts des Goethe-Instituts in Moskau und des Portals Сolta.ru