Fort- und Rückschritte
„Technologien sind nicht neutral“

Expertinnen und Experten diskutieren darüber, wie Algorithmen Rassismus und Sexismus in unserer Gesellschaft verstärken können und weisen darauf hin, dass rassistische Vorurteile oftmals Bestandteil von Gesichtserkennungssoftware und künstlicher Intelligenz ist.

Von Ana Paula Orlandi

Werden dadurch, dass die Nutzung von Technologien für uns praktisch und bequem ist, unsere Beweglichkeit und die Fähigkeit uns zu verändern eingeschränkt, und werden wir zur Trägheit verleitet? Welche sozialen Schichten bewegen sich mittels dieser technologischen Neuheiten und genießen tatsächlich ihren Nutzen? Vergrößern die Technologien die Ungleichheit in unserer Gesellschaft? So lauteten einige der Fragen, die Silvana Bahia, Direktorin des Olabi, Labor für Innovation und Technologie mit Sitz in Rio de Janeiro, während eines Online-Workshops des Projekts Tramas Democráticas zum Thema „Trägheit“ am 20. Oktober 2020 stellte. 

Weibliches Substantiv

Als Denkanstoß zur Demokratisierung der Technologien stellte Bahia einige von Olabi durchgeführte Projekte vor, wie zum Beispiel das 2017 von ihr entwickelte PretaLab. Das ist ein Schirm an Initiativen, die zum Ziel haben, schwarze Frauen in den Bereich Technologie und Innovation einzuladen und einzugliedern. „Ein politisch engagiertes Projekt, das beabsichtigt mit den Frauen, die 28% der brasilianischen Bevölkerung stellen, in einen Dialog zu treten. [Die US-amerikanische Professorin, Philosophin und Bürgerrechtlerin] Angela Davis sagt, wenn eine schwarze Frau sich in der gesamten Gesellschaft bewegt, dann bewegt die Gesellschaft sich mit ihr“, so Bahia. „Genau darum gibt es PretaLab: Wir wollen die Trägheit überwinden und die Gesellschaft in Bewegung bringen“. 

Eines der Ziele des Projekts ist, Frauen, die beruflich in diesem Bereich unterwegs sind, mit Unternehmen dieses Sektors zusammenzubringen. So sind auf der Website von PretaLab rund 400 Profile von schwarzen Frauen zu finden, die in Brasilien im Bereich Technologie und Innovation tätig sind. „Ich weise gerne darauf hin, dass Technologie ein weibliches Substantiv ist, das uns gar nicht so fern liegt, wie man uns glauben machen will.“

Weiße reiche Männer der nördlichen Erdhalbkugel

Die Plattform bietet auch eine Seite mit Zahlen zu diesem spezifischen Arbeitsmarkt in Brasilien. Im Zeitraum von November 2018 bis März 2019 führte PretaLab in Zusammenarbeit mit dem multinationalen Consultingunternehmen ThoughtWorks die Umfrage #QUEMCODABR durch und untersuchte die Profile von Technologie-Fachleuten, die aktuell in Brasilien tätig sind. Der Studie zufolge handelt es sich in der Mehrzahl um Männer (68%), weiß (58,3%), jung (77%), die aus Mittel- bis Oberschichtverhältnissen stammen (60%). Dieses Bild beschreibt jedoch nicht nur die Situation in Brasilien, betont Bahia: „Die CEOs der großen Plattformen Facebook, Waze, Spotify und Twitter sind allesamt männlich, weiß, reich und Bewohner der nördlichen Erdhalbkugel“.

Bahia zufolge gilt es, die Technologie permanent zu hinterfragen. Viele ihrer aktuellen Untersuchungen orientieren sich an dem Buch Algorithms of Oppression („Algorithmen der Unterdrückung“, in Brasilien [und Deutschland] bislang unveröffentlicht), von Safiya Noble, Forscherin an der California State University. In dem 2018 erschienenen Buch untersucht die Autorin, wie Algorithmen Rassismus und Sexismus in der Gesellschaft verstärken können. „Projekte zu künstlicher Intelligenz verwenden Daten, die aus einer unterdrückerischen Vergangenheit stammen und Ausdruck jahrhundertelanger Kolonisierung und Versklavung sind“, gibt Bahia zu bedenken. 

Auch weist sie auf die Tatsache hin, dass der digitale Fortschritt nicht notwendigerweise das Wohlergehen der Gesellschaft fördere. „Wir haben heute viel Technologie, aber die Probleme unserer Gesellschaft sind nicht geringer geworden“, so ihre Einschätzung. „Es ist wichtig, sich klar zu machen, dass Technologie nicht etwas Neutrales ist. Sie ist an die Wirtschaft gebunden, an die Politik, sie kann Ungleichheiten verstärken und unsere Daten vermarkten. Wir müssen aufpassen.“

Daten und Privatsphäre

Bei dem Treffen im Rahmen des Projekts Tramas Democráticas war auch M. Radwan zu Gast geladen, der der Nichtregierungsorganisation Kollektiv Tactical Tech angehört, die in Berlin sitzt und die gesellschaftlichen Auswirkungen der Technologien untersucht und vor ihren Auswirkungen auf die Gesellschaft warnt. Radwan berichtete von ihrem Projekt The Glass Room, einer interaktiven Ausstellung, mit deren Entwicklung sie seit 2016 befasst sind und die bereits in über 40 Ländern gezeigt wurde, in verschiedenen Formaten – 2020 schließlich als Neuausgabe. Die Erstausgabe mit über 50 Elementen und fünf Themenblöcken zog auf ihren Stationen in Berlin, London, New York und San Francisco insgesamt etwa 60 Tausend Besucherinnen und Besucher in ihren Bann. 

„Wir verbinden Kunst, Design und Technologie, um über Privatsphäre, Daten und unser Verhältnis zur Technologie im Alltag zu sprechen“, erklärt Radwan, der Projektkoordinator, und erzählt: „Wir sprechen über reale Dinge, die aktuell geschehen, wie zum Beispiel Rassenvorurteile, verpackt in Gesichtserkennungssoftware und in künstliche Intelligenz zur Personenerkennung“. Radwan macht auf die Tatsache aufmerksam, dass „das Projekt Fragen rund um diese Themen entmythisiert, ohne, wie es für gewöhnlich der Fall ist, Angst zu erzeugen, was das Publikum eher abschreckt. Wir versuchen die größtmögliche Anzahl an Besucherinnen und Besucher zu erreichen, damit die Leute beginnen, sich mit diesen Themen auseinanderzusetzen“.

Das Internet der Dinge

Der Erfolg der ersten Ausgabe der Ausstellung brachte Tactical Tech ins Sichtfeld von Fachleuten aus anderen Ländern auf den Radar, die gern The Glass Room haben wollten. Diese Nachfrage ließ die NGO ein Pocket-Format der Ausstellung mit dem Titel Internet of Things (IoT) entwickeln. “Eine kostengünstige, tragbare Version mit weniger Elementen. Dadurch können mehr Menschen in den Genuss des Erlebnisses kommen und über Technologie an den Orten, in denen sie leben, nachdenken.” Eine Neuausgabe der Ausstellung, auch im Pocket-Format, wurde 2020 erstmals vorgestellt. Die Ausstellung ist unter dem Titel Misinformation Edition virtuell besuchbar und steht in neun Sprachen zur Verfügung.

Eines der Ziele ist, dem Publikum zu zeigen, wie man Falschinformation erkennt und bekämpft. So gibt zum Beispiel Totem Deepfake Lab Anhalstpunkte zum Herausfinden, ob ein Video mithilfe  neuartiger Werkzeuge künstlicher Intelligenz verfälscht wurde. Ein weiteres Thema, das die Ausstellung anspricht, ist Technologie-Sucht. Zu den ausgestellten Elementen gehört das Data Detox Kit, das den Nutzenden eine Schritt-für-Schritt-Anleitung zur Reduzierung ihrer Zeit im Internet bietet.