Interview
Nichts über uns ohne uns
Über einen Zeitraum von zwei Jahren entwickeln elf Partnerorganisationen gemeinsam mit Minderheiten-Communities ein KI-gestütztes Tool, das problematische Begriffe in Metadaten zum Kulturerbe automatisch erkennt und Informationen zu ihrem problematischen Hintergrund bereitstellt. Das DE-BIAS-Projekt zielt darauf ab, Kulturerbe in digitalen Sammlungen inklusiver und respektvoller zu beschreiben und die Geschichte und Geschichten von Minderheitengemeinschaften zu erzählen.
Kerstin Herlt ist Koordinatorin für EU-Projekte am Deutschen Filminstitut & Filmmuseum (DFF) in Frankfurt und Projektkoordinatorin von DE-BIAS. Die European Fashion Heritage Association (EFHA) in Florenz ist eine weitere Partnerorganisation. Dort ist Marta Franceschini als Leiterin des Kommunikations- und Redaktionsteams aktiv an der Entwicklung des Tools beteiligt. Für diesen Artikel haben wir mit beiden darüber gesprochen, wie Bias einen Weg in die Sammlungsbeschreibungen findet, an welchen Stellen die KI bei der Ermittlung verletzender Sprache an ihre Grenzen stößt und wie wichtig die Einbindung von Gemeinschaften ist.
Von Lucy Rowan
Könnten Sie die gesellschaftliche Bedeutung der Entwicklung des DE-BIAS-Tools erläutern?
Kerstin: Wir wollten nicht nur das Bewusstsein für beleidigende Sprache in den Sammlungsbeschreibungen von Kulturerbeeinrichtungen schärfen, sondern auch dazu beitragen, die Sammlungen inklusiver und zeitgemäßer zu beschreiben. Zu diesem Zweck haben wir ein Tool entwickelt, das beleidigende Begriffe automatisch erkennt und markiert. Im Rahmen des Projekts erstellen wir eine Liste von Begriffen, die wir als „Bias-Vokabular“ bezeichnen. Sie kontextualisiert beleidigende Begriffe und schlägt bei Bedarf Alternativen vor. Besonders wichtig an diesem Projekt ist, dass wir das Vokabular gemeinsam mit den Gemeinschaften bestimmen, die von diskriminierender Sprache aufgrund von Religion, ethnischer Zugehörigkeit, Geschlecht, sexueller Orientierung und/oder Ethnizität betroffen und beeinflusst sind.
Das wichtigste Fallbeispiel für das Projekt liefern die digitalen Sammlungen von Europeana. Wir werden das Tool allerdings auch Kulturerbeeinrichtungen zur Verfügung stellen, damit sie die Beschreibungen ihrer Sammlungen überprüfen können. Wir streichen oder ändern keine Begriffe, sondern überlassen ihnen selbst die Entscheidung, wie sie damit umgehen.
Warum ist das Projekt wichtig für die Gesellschaft? Ich denke, mit einer Anerkennung der Identität und des kulturellen Gedächtnisses lassen sich zwar nicht unbedingt historische oder sogar aktuelle Ungerechtigkeiten – wie Kolonialismus oder geschlechtsspezifische Diskriminierung – wiedergutmachen. Doch eine korrektere und respektvollere Darstellung von Kulturerbe kann zumindest zu einem besseren kulturellen Verständnis beitragen.
Marta: Genau. Aus meiner Sicht profitieren nicht nur die Beteiligten von diesem Projekt. Es wird auch in Zukunft zum Einsatz kommen. Wer nutzt diese Datensätze? Wer konsultiert und nutzt sie für Forschungszwecke oder sogar für persönliche Recherchen? Vielleicht auch einfach nur eine Person, die online auf der Suche nach etwas Interessantem ist. Unser Ziel ist es, ein inklusiveres und offeneres Umfeld zu schaffen, damit alle Interessierten auch Zugang zu allen Informationen haben und so die Veränderungen in den Katalogeinträgen der Museumssammlungen nachvollziehen können.
Es geht also eindeutig darum, die Vergangenheit und den bisherigen Umgang mit Sammlungen und Katalogen in verschiedenen Regionen Europas anzuerkennen. Anschließend müssen wir uns um Korrekturen bemühen und zeigen, wie ein künftiger Umgang aussehen könnte. Wie kann ein Blick in die Vergangenheit die Zukunft der Sammlung und Katalogisierung beeinflussen?
Welche Rolle spielt das DFF im Rahmen des Projekts und wie arbeiten Sie mit den Gemeinschaften zusammen?
Kerstin: Unser Zusammenschluss besteht aus insgesamt elf Partnern in ganz Europa. Die meisten von ihnen sind auf die eine oder andere Weise mit Europeana verbunden – entweder bei der Datenerfassung oder als Partnerorganisation. Diese Partner arbeiten mit den Gemeinschaften zu zentralen Themenkomplexen des Vokabulars: Migration, koloniale Vergangenheit, Geschlecht, sexuelle Identität, Ethnizität und ethno-religiöse Identität.
Beim DFF wollen wir uns mit Antisemitismus in der Sprache befassen – vor allem in der deutschen Sprache. Die Zusammenarbeit zwischen der Gemeinschaft und den Fachleuten wird sich nicht so sehr darum drehen, voreingenommene Terminologie zu erkennen, sondern vielmehr darum, wie wir die Lücken in unseren lokalen Datenbanken und in den Sammlungen schließen können, um beispielsweise mehr Aufmerksamkeit auf das jüdische Filmschaffen und die jüdische Filmproduktion zu lenken. Dies wird sich vermutlich auch darauf auswirken, wie wir diese Sammlungen künftig beschreiben und welche Begriffe wir dafür verwenden.
Tatsächlich kommt es nicht selten vor, dass Worte aus unserem Themenbereich (Gender/Sexualität) zusätzlich noch eine völlig andere Bedeutung haben. Wir müssen also auch herausfinden, in welchen Zusammenhängen die Worte abwertend genutzt werden, und dies sichtbar machen, denn Sichtbarkeit ist ein wichtiges Thema für die Community. Sie wollen nicht nur gesehen werden, sie wollen auch, dass ihre Misshandlungen anerkannt und gesehen werden.
Marta: Im Rahmen des Projekts koordinieren wir die Kommunikations- und Verbreitungsstrategie. Wir kümmern uns also darum, wie wir die breite Öffentlichkeit über das Projekt und seine Ergebnisse informieren können. Ich denke, das ist unsere Hauptaufgabe.
Außerdem wollen wir geschlechts- und sexualitätsbezogene Vorurteile in den Sammlungen erkennen und korrigieren. In unseren Sammlungen finden sich versteckte Hinweise auf Gender und Sexualität und besonders auf sexuelle Identität, die auf den ersten Blick nicht immer sichtbar sind. Das Konzept von Gender wurde über Mode und Kleidung diktiert. Im Austausch mit verschiedenen Gemeinschaften in Großbritannien und Italien versuchen wir zu verstehen, wo die Vorurteile oder die konkreten Probleme liegen.
Wir sehen das Problem vor allem in einer falschen Auslegung und Verwendung von Begriffen, die in oder aus der Mode sind. Etwas, das vor zehn Jahren als angemessen galt, ist es heute nicht mehr. Das Hauptproblem liegt darin, dass bestimmte Daten kaschiert oder nicht korrekt wiedergegeben wurden, weil die katalogisierende Person sie beispielsweise für problematisch hielt.
Wie gelangen von ethno-religiösen Vorurteilen wie Antisemitismus geprägte Begriffe in die Beschreibungen von Sammlungen?
Kerstin: Im Mittelpunkt des Interesses von Kulturerbeeinrichtungen stehen historische Objekte. Antisemitismus als Weltanschauung gelangt also über die Objekte in die Sammlungen und ihre Beschreibungen. In Deutschland haben wir es mit der Naziherrschaft und dem Zweiten Weltkrieg natürlich mit einem Sonderfall zu tun. Was uns im DFF betrifft, gibt es viele Propagandafilme aus der Nazizeit, die heute verboten sind. Wenn man einen solchen Film zeigen möchte, muss man kontextspezifische Bildungs- oder Forschungsgründe anführen und in einer Einführung erläutern, warum der Inhalt eines Films rassistisch und gefährlich ist. Ich bin mir nicht sicher, ob das auch in anderen Ländern so ist. Allerdings gehe ich davon aus, dass sich ein gewisser Anteil antisemitischer Propaganda auch in nicht-deutschen Sammlungen findet.
Es darf nicht vergessen werden, dass Deutschland aus sprachlicher Sicht einen Sonderfall darstellt. Diese Begriffe oder der damit verbundene Bias lassen sich auch nicht ins Englische übersetzen. Es hängt also alles sehr stark vom Kontext ab.
Generell stolpert man in den sozialen Medien oft über Antisemitismus in der Sprache. Dieses Phänomen wurde vielfach untersucht, weil es dabei weniger um offene Äußerungen und spezifische Begriffe als um die Art von Formulierungen geht. Also um einen Kontext, mit dem „Jüdischsein“ verbunden wird, beispielsweise mit Geld oder mit der Wissenschaftsbewegung. In der Regel gelangt Antisemitismus auf diese Weise eher durch die Hintertür in die Online-Sprache.
In welcher Form finden sich sexualitäts-/geschlechtsbezogene Vorurteile in den Beschreibungen von Sammlungen?
Marta: In unterschiedlicher Form – doch es ist besonders beunruhigend, wenn sie gar nicht vorkommen. Je mehr wir nach Informationen über Sexualität und Geschlecht suchen, desto mehr wird uns bewusst, dass sich nur schwer angemessene Formulierungen finden lassen. Denn die Worte stehen in der Regel für einen historischen Zeitpunkt und für einen Ort, an dem ein Eintrag erstellt wurde. Außerdem ist es auch wichtig, wer die Beschreibung formuliert hat.
Wir sind uns sehr bewusst, dass wir es mit historischen Dokumenten zu tun haben. Und die Auseinandersetzung mit nur einer Sprache ist schon anspruchsvoll genug. Wenn Europeana Inhalte in verschiedene Sprachen übersetzt, wird es noch komplizierter. Das haben wir in einem Vergleich von italienischen und englischen Beschreibungen festgestellt. Ein Wort, das im Englischen als beleidigend wahrgenommen wird, kann im Italienischen ganz anders verstanden werden. Die Worte sind für sich bereits Kulturgüter.
Nehmen wir zum Beispiel den Begriff „Queer“. Er wurde in der englischen Sprache als abwertende Bezeichnung verwendet, bis sich die Community den Begriff neu aneignete. Im Englischen könnte der Begriff also als beleidigend wahrgenommen werden. In Italien dagegen ist er ausschließlich positiv konnotiert, weil er mit der LGBTQ+-Bewegung ins Land kam. Sprache und ihre Nuancen sind einem rasanten Wandel unterworfen – das neue Konzept des „Queerseins“ hat sich erst in den letzten zehn Jahren entwickelt.
Für mich ist Unsichtbarkeit als solche bereits mit Vorurteilen verbunden, denn Menschen, die sich als „queer“ bezeichnen, könnten diesen Begriff in eine Datenbank eingeben und seitenweise auf unangemessene Inhalte stoßen. Tatsächlich kommt es nicht selten vor, dass Worte aus unserem Themenbereich (Gender/Sexualität) zusätzlich noch eine völlig andere Bedeutung haben. Wir müssen also auch herausfinden, in welchen Zusammenhängen die Worte abwertend genutzt werden, und dies sichtbar machen, denn Sichtbarkeit ist ein wichtiges Thema für die Community. Sie wollen nicht nur gesehen werden, sie wollen auch, dass ihre Misshandlungen anerkannt und gesehen werden.
Marta hat gesagt, dass der geopolitische Standort einer Sammlung Einfluss auf die Beschreibungen und die darin enthaltenen Vorurteile hat. Kennen Sie dafür Beispiele aus Ihrer Forschung, Kerstin?
Kerstin: Ich habe zu ethnografischen Filmen geforscht und bin dabei auf ein Interview mit einem Forscher aus Angola gestoßen. Als Filmemacher war er auf der Suche nach seinen Filmen aus dem Bürgerkrieg in Angola. Seine Recherchen in deutschen Sammlungen lieferten keinerlei Ergebnisse, weil er das „falsche“ Stichwort eingegeben hatte – er suchte nach Filmen zu den Themen „Befreiung“ und „Revolution“. Die Filme waren stattdessen unter „Terrorismus“ und „Rebellion“ eingeordnet. Deshalb konnte er sie in den Sammlungen nicht finden.
Je nach Blickwinkel und gesellschaftspolitischer Haltung/Erziehung ordnet man die Dinge anders ein: Betrachtet man eine Bewegung als Befreiungskampf oder als terroristischen Akt? Dieses Phänomen zieht sich durch die gesamte Geschichte und ist an verschiedenen geografischen Standorten zu beobachten.
Allgemeiner betrachtet müssen die Strategien für Sammlungen und Ausstellungen insgesamt überdacht werden. Dabei geht es nicht nur um unseren Umgang mit Sprache, sondern auch darum, welche Objekte wir sammeln und von wem. Wie sieht unsere Sammlungsstrategie aus? Wie reflektieren wir die kulturelle Produktion verschiedener Communities in unserer Welt?
Warum ist es so wichtig, Gemeinschaften eng in diese Projekte einzubinden?
Marta: Zum Abschluss des Projekts wollen wir allen Interessierten ein wirksames Tool an die Hand geben können. So etwas ist kein Selbstläufer. Deshalb verschaffen wir uns mit der Einbindung von Vertreter*innen aus den Gemeinschaften einen Einblick und stellen einen direkten Kontakt zu Mitgliedern dieser Gemeinschaften her. Es geht um Teamarbeit. Es ist so wichtig, nicht einfach nur das Tool zu entwickeln, sondern auch die Bedürfnisse einer Gemeinschaft und der Menschen zu kennen, die es aktiv nutzen werden – Communities, Fachleute, Kurator*innen und Restaurator*innen.
Ich denke, wir sind uns noch nicht endgültig im Klaren, was wir tun sollen, sobald wir die Begriffe ermittelt haben. Wir haben darüber nachgedacht, innerhalb des Tools eine kurze Erläuterung einzufügen, warum DE-BIAS ein Wort markiert oder erkannt hat. Solche Erläuterungen müssen in Gesprächen mit Menschen entwickelt werden, die diesen Communities angehören und eine Verbindung zu diesen Objekten haben. In diesem Sinne betrachte ich es als eine Art von Geschichtsschreibung der Zukunft. Doch es geht nicht nur um Objekte aus der Vergangenheit – Museen erwerben täglich neue Dinge und geben ständig neue Einträge in ihre Datenbanken ein.
Wie bereits gesagt, ist Sprache geografisch und zeitlich verortet. Wenn also noch heute Objekte beschrieben werden, dann möchten wir Kurator*innen und Restaurator*innen in die Lage versetzen und unterstützen, die Kataloge der Zukunft zu gestalten und so viele Akteur*innen wie möglich in die Erweiterung von Sammlungen einzubeziehen. Wenn Informationen nur einem geschlossenen Kreis zur Verfügung stehen, funktioniert es nicht. Es braucht viele Beteiligte. Es muss also nicht nur das Vokabular, sondern letztendlich auch das gesamte Wissen überarbeitet werden.
Wo stößt die KI bei der Erkennung verletzender Sprache an ihre Grenzen? An welchem Punkt müssen Menschen in den Prozess eingebunden werden und warum?
Kerstin: Marta hat es bereits erwähnt: Ein Wort kann in einer Sprache als Beleidigung gelten, in einer anderen dagegen nicht. Außerdem ändern sich Bedeutungen mit der Zeit. Das Tool, das wir gemeinsam mit unseren Technikpartnern entwickeln, basiert vor allem auf der Verarbeitung natürlicher Sprache. Es ist zwar ein KI-gestütztes Tool, doch wir bezeichnen sie immer als eine eher „softe KI“ – es gibt keinen Algorithmus, den wir mit Daten trainieren. Und wenn dem so wäre, würden wir damit letztlich nur Vorurteile in den Beschreibungen von Sammlungen reproduzieren und verstetigen. Wenn man davon ausgeht, dass Sprache von Natur aus voreingenommen ist, impliziert das im Grunde auch, dass Sprache unterschiedliche Bedeutungen transportiert und Worte immer über mehrere Konnotationen verfügen. Ein Begriff kann also für eine Person verletzend sein, für eine andere dagegen nicht. Der Kontext ist ausschlaggebend.
Deshalb brauchen wir Menschen, und in unserem Fall Gemeinschaften und Fachleute, um etwas „Menschlichkeit“ in die Abläufe zu bringen. Aus meiner Sicht kann die Arbeit nicht vollständig automatisiert werden. Allerdings können wir über 54,5 Millionen Einträge durch das Tool laufen lassen. Es ist einfach großartig, eine so riesige Anzahl von Einträgen verarbeiten zu können. Am Ende muss man sich mit bestimmten Begriffen auseinandersetzen, um sie in einen Kontext zu setzen. Letztlich ist es Sache der Kurator*innen oder der Archivar*innen – der Personen, die über den Umgang mit einem Fall entscheiden, und dieser Teil des Vorgangs lässt sich nicht automatisieren.
Was muss unabhängig vom DE-BIAS-Projekt zusätzlich unternommen werden, um festgefahrene Denkmuster bei der sprachlichen Darstellung von Minderheitengruppen zu überwinden? Welche Veränderungen würden Sie sich wünschen?
Kerstin: Ich würde mir mehr Achtsamkeit wünschen; daran mangelt es meines Erachtens noch. Natürlich wurden in den vergangenen Jahren einige Fortschritte erzielt. Manchmal fehlt es an Zeit und an Mitteln, doch ich würde mir noch mehr Engagement wünschen – Archivar*innen und Kurator*innen sollten ihre Kataloge und Texttafeln für Ausstellungen gründlicher prüfen.
Allgemeiner betrachtet müssen die Strategien für Sammlungen und Ausstellungen insgesamt überdacht werden. Dabei geht es nicht nur um unseren Umgang mit Sprache, sondern auch darum, welche Objekte wir sammeln und von wem. Wie sieht unsere Sammlungsstrategie aus? Wie reflektieren wir die kulturelle Produktion verschiedener Communities in unserer Welt? In Deutschland gibt es eine große migrantische Gemeinschaft – eine sehr große türkische Community, die in unseren Sammlungen nicht angemessen vertreten ist.
Meines Erachtens können auch mehr Diversitätsbeauftragte in Museen Verbesserungen bringen. Wir brauchen Menschen, die Verbindungen zwischen den Mitarbeitenden und den Communities herstellen, um gemeinsame Projekte zu entwickeln. Sie müssen unsere Mitarbeitenden in Diversitätsfragen beraten. Außerdem müssen unsere Teams diverser sein. Dies würde sich meines Erachtens auch darauf auswirken, wie wir Objekte benennen und beschreiben. Trotz einiger Fortschritte liegt hier noch ein langer Weg vor uns. In Deutschland gibt es bereits Kontroversen und Gegenreaktionen auf die Verwendung von genderneutraler Sprache. Am Ende geht es vermutlich um mehr als nur um die Änderung von Mindsets.
Marta: Ja, dem kann ich nur zustimmen. Ich denke, wir brauchen einen Wandel auf institutioneller und womöglich sogar auf politischer Ebene. Das Problem liegt im System selbst. Wenn wir das System nicht ändern, reparieren wir nur die Fassade, ohne uns um das darunterliegende Gebäude zu kümmern – wir übertünchen lediglich die Risse. Meines Erachtens sollten die Strategien für einen systemischen Wandel von der Basis kommen – sie können sich von dort bis in die oberste Ebene übertragen. Dazu wollen wir mit unserem Projekt einen gewissen Beitrag leisten.
Für mich ist Sichtbarkeit ein wichtiges Thema. Wir müssen den Menschen zuhören, die mit diesen Problemen konfrontiert sind, denn eine „professionellere Auseinandersetzung“ mit diesen Inhalten ist oft mit Zuschreibungen und zusätzlichen Vorurteilen verbunden. Dies ist einer der Gründe, warum wir glauben, dass unser Ansatz von der Community bestimmt werden muss – auf welche Weise wollen sie in das Projekt eingebunden werden? Diese Frage können nicht wir beantworten. Das ergibt doch keinen Sinn.
Schlussendlich brauchen nationale Einrichtungen die nötigen Mittel, um diese Projekte durchzuführen. Sie müssen aber gleichzeitig auch ihre Kurator*innen, Restaurator*innen und Archivar*innen zahlen für die tägliche Arbeit entlohnen. Ohne politische Unterstützung werden sie also nur schwer Veränderungen bewirken können. Wir sehen es immer wieder – einige großartige Kurator*innen und Restaurator*innen machen zahlreiche Überstunden, um ihre Sammlungen zu sichten und Verbesserungsmöglichkeiten zu entwickeln.
Auch was das Kuratieren von Sammlungen betrifft, sollte es langfristige, nachhaltige Bemühungen um das Vertrauen der Communities geben. Sie wollen nicht für eine einzige gemeinsame Sonderausstellung herhalten und dann wieder vergessen werden. Der Aufbau einer solchen Beziehung sollte nichts Besonderes sein, sondern zum Alltagsgeschäft gehören. Er sollte Teil der Funktion und der Arbeitsplatzbeschreibung sein.
Kerstin Herlt ist EU-Projektkoordinatorin am DFF – Deutsches Filminstitut & Filmmuseum in Frankfurt am Main. Zu ihren aktuellen Projekten gehören EFG – The European Film Gateway, das Daten zum Filmerbe für Europeana aggregiert, und DE-BIAS, das einen KI-gestützten und integrativen Ansatz für die Beschreibung von Sammlungen des Kulturerbes fördert. Kerstin Herlt hat einen Masterabschluss in Romanischer Philologie, Soziologie und Europäischer Medienwissenschaft.
