(Von DER SPIEGEL zum Teilen des Artikels geteiltes Vorschaubild)

Gesichtserkennung ist rassistisch

Wie der Rassismus in die Software kommt
13.06.2020 3 Minuten Deutsch
DER SPIEGEL Jörg Breithut Judith Simon
Originalartikel lesen ⭢

DIE PERSPEKTIVE IN 30 SEKUNDEN

Der SPIEGEL-Redakteur Jörg Breithut weist in seinem Artikel für den SPIEGEL auf eine große Gefahr automatisierter Gesichtserkennung hin: Automatisierte Gesichtserkennung helfe, menschliche Stereotypen zu reproduzieren. Selbst US-Politiker:innen mit afroamerikanischem Hintergrund sind in einer wissenschaftlichen Studie von Gesichtserkennungsprogrammen als Verbrecher:innen gebrandmarkt worden. Die Ethikprofessorin Judith Simon von der Universität Hamburg meint daher: „Gesichtserkennung ist nicht tragbar“.

Ein grundlegendes Problem der automatisierten Gesichtserkennung ist: Die dafür benötigte künstliche Intelligenz (KI) kann Bilder von Menschen mit asiatischem oder afroamerikanischem Hintergrund schlechter auseinanderhalten als Bilder von Menschen europäischen oder nordamerikanischen Hintergrunds. Das liegt an den Trainingsdaten, mit denen die KI trainiert wird: In den Daten sind viel weniger Bilder von Menschen mit afroamerikanischem oder asiatischem Hintergrund vorhanden. Daher lernt die KI nicht, Menschen dieser Ethnizitäten auseinanderzuhalten. Das führt zu Fehlern, erklärt Breithut: Einer großangelegten Studie zufolge „ist die Gesichtserkennungsfehlerrate bei diesen ethnischen Gruppen [mit afroamerikanischem oder asiatischem Hintergrund] bis zu einhundertmal höher als bei Weißen.“

Das führt zu Verwechslungen mit mitunter schweren Konsequenzen; wenn Gesichtserkennung genutzt wird, um nach Kriminellen zu fahnden. Denn Unschuldige könnten als schuldig erkannt werden. Und diese Fehler würde bei ethnischen Minderheiten viel häufiger auftreten, stellt Breithut klar. Damit diskriminiere man bestimmte Personengruppen, stellt Ethikprofessorin Simon klar. Ihrer Meinung nach sollte automatisierte Gesichtserkennung im öffentlichen Raum deshalb verboten werden.

ANMERKUNG DER REDAKTION

Jörg Breithut ist freier Journalist und Autor. Er schreibt für die Netzwelt beim SPIEGEL. Außerdem schreibt er für die Online-Redaktion der STUTTGARTER ZEITUNG. Hauptsächlich beschäftigt er sich mit IT und Netzthemen. Er hat Informatik an der Universität Aalen und Journalismus an der Universität Hohenheim studiert. Sein neuestes Buch heißt “Nach dem Pfefferspray war das Steak ungenießbar” und beschäftigt sich mit lustigen Rezensionen in Online-Shops.

Judith Simon ist Professorin Professorin für Ethik in der Informationstechnologie an der Universität Hamburg. Sie setzt sich vor allem mit philosophischen Fragen im Zusammenhang mit der Digitalisierung auseinander. Sie hat Psychologie in Marburg und Berlin studiert. Danach hat sie als wissenschaftliche Mitarbeiterin unter anderem in Stanford, an der renommierten französischen École normale supérieure und am Karlsruher Institut für Technologie gearbeitet. 2017 ist sie auf den Lehrstuhl für Ethik in der Informationstechnologie in Hamburg berufen worden. Dieser Lehrstuhl ist am Institut für Informatik und damit der erste deutsche Ethik-Lehrstuhl an einem Informatik-Institut.

DER SPIEGEL ist ein deutsches Nachrichtenmagazin, das 1947 von Rudolf Augstein gegründet worden und zuletzt (2/21) in einer Auflage von knapp 676.000 Exemplaren erschienen ist. DER SPIEGEL zählt zu den deutschsprachigen Leitmedien: Er prägt die gesellschaftliche Debatte und Öffentlichkeit. In den Jahren 2019 und 2020 war das Magazin das meistzitierte Medium in Deutschland. Eine besondere Rolle im Magazin nimmt bis heute der investigative Journalismus ein. 1963 führten eine solche Recherche und die sogenannte SPIEGEL-Affäre dazu, dass der damalige Verteidigungsminister Franz Josef Strauß sein Amt räumen musste. DER SPIEGEL wird traditionell als eher linksliberales Medium gesehen, auch in Abgrenzung zu den anderen großen deutschen Nachrichtenmagazinen, dem FOCUS und dem STERN. Bereits Gründer Rudolf Augstein verortete sein Magazin „im Zweifel links“. 1994 wurde der dem SPIEGEL zugehörige, aber redaktionell unabhängige Online-Nachrichtendienst SPIEGEL ONLINE gegründet. Seit dem 8. Januar 2020 heißt auch das Online-Portal DER SPIEGEL, nachdem die Redaktionen der beiden Medien 2019 zusammengelegt wurden. Dennoch ist das Online-Portal immer noch rechtlich und wirtschaftlich unabhängig, da es von einer Tochtergesellschaft betrieben wird. DER SPIEGEL (online) zählt zu den fünf meistbesuchten Nachrichten-Webseiten in Deutschland. 2018 wurde bekannt, dass der langjährige Mitarbeiter Claas Relotius wesentliche Inhalte von (teils preisgekrönten) SPIEGEL-Reportagen erfunden hatte. Hiernach reichte Relotius seine Kündigung ein. Das Blatt sprach von „einem Tiefpunkt in der 70-jährigen Geschichte des SPIEGEL“.