Sagt dir die KI, wer du bist?
„Seit mehreren Jahren gibt es Bestrebungen, mit der Technologie des maschinellen Sehens, mit Künstlicher Intelligenz und mit selbstlernenden Algorithmen unser Gesicht zu erkennen und zu identifizieren. Die Gesichtserkennung zur Entsperrung des Bildschirms auf dem Smartphone ist heute bereits eine übliche Funktion. Zugleich wird in immer mehr Bereichen unseres Lebens die Gesichtserkennung angewandt, und das wirft nicht nur technische, sondern auch zahlreiche juristische und ethische Fragen auf. Die Plattform von Facescan stellt die Risiken vor, die sich in den Gesichtserkennungssystemen verbergen, die möglichen Fehler bei der Gesichtserkennung, die sogar schwerwiegende Folgen haben können. Die Besucher*innen können auch selbst ausprobieren, wie sie von der Maschine gesehen werden.“
Es ist wichtig, sich immer wieder zu vergegenwärtigen, dass die heute beliebten, auf maschinellem Lernen basierenden KI-Methoden und -Entscheidungen nicht perfekt sind, und dass die Verantwortung für die „Perfektion“ grundlegend bei den Entwickler*innen liegt. Viel Staub wird wegen „Voreingenommenheit“ oder „Engstirnigkeit“ aufgewirbelt, und es kommt darauf an, auf welche Weise in der Datenbank, die zur Einstudierung des Entscheidungsvorgangs angewendet wird, der Fragenkomplex repräsentiert wird, auf den später das maschinelle Lernen Antworten generieren soll. Die KI erlernt aus der zum Einstudieren bereitgestellten Datenmenge auch die darin von früher enthaltenen menschlichen Entscheidungen, die auf Vorurteilen beruhen, und es kann auch sein, dass die KI über weniger repräsentierte Fälle nicht genug lernen kann.
Designed at MOME
