Algorithmen sind die Torhüter der Gesellschaft. Sie entscheiden, welchen Partner man trifft, ob man zu einem Bewerbungsgespräch eingeladen wird oder in der Impfreihenfolge priorisiert wird. Doch: Diese automatisierten Systeme sind nicht immer frei von Vorurteilen. Mal verweigert der Algorithmus die Verlängerung des Reisepasses, weil er die Augen des asiatischstämmigen Antragstellers für geschlossen hält und einen Formfehler meldet. Mal sortiert er das Selfie eines Afroamerikaners in der Kategorie "Gorilla" ein.

Das sind keine Einzelfälle. Das Problem rassistisch verzerrter Algorithmen ist struktureller Natur. So erkennen beispielsweise dermatologische Modelle Hautkrebs bei schwarzen Menschen deutlich schlechter als bei weißen. Doch das Problem sind nicht die mathematischen Modelle, sondern die Menschen, die sie mit verzerrten Daten füttern. In den Softwareschmieden des Silicon Valley sitzen noch immer mehrheitlich weiße junge Männer aus der Mittel- und Oberschicht, die – oft unbewusst – ihre Werte und Weltanschauung in Programmcodes formulieren.

Leere Versprechen

Die Techkonzerne haben schon vor Jahren angekündigt, ihre Entwicklerteams diverser zu machen. Doch viel getan hat sich nicht, die Versprechen blieben Lippenbekenntnisse. Bei Facebook ist der Anteil der Schwarzen in allen Berufsgruppen nach eigenen Angaben von zwei Prozent im Jahr 2014 auf lediglich 3,9 Prozent 2020 gestiegen. Auch in Führungspositionen sind Schwarze mit 3,4 Prozent unterrepräsentiert. Bei Google sieht es nicht anders aus. Laut dem aktuellen Diversitätsbericht machen Schwarze lediglich 3,7 Prozent der Belegschaft aus, Weiße 51,7 Prozent. Zum Vergleich: Der Anteil der Schwarzen an allen US-Erwerbstätigen beträgt rund 13 Prozent. In Führungspositionen ist die Kluft noch größer: Fast zwei Drittel der Google-Führungskräfte sind weiß. Dagegen sind nur 2,6 Prozent von ihnen schwarz.

Die Techkonzerne haben schon vor Jahren angekündigt, ihre Entwicklerteams diverser zu machen. Doch viel getan hat sich nicht, die Versprechen blieben Lippenbekenntnisse.
Foto: Getty Images

Auch Frauen sind in Führungspositionen bei Google stark unterrepräsentiert: Ihr Anteil beträgt lediglich 26,7 Prozent. Bei Neueinstellungen zeigt sich ein ähnliches Bild: Verpflichtet werden überwiegend weiße und asiatische Männer.

Diversität zahlt sich aus

Dabei ist Diversität kein Selbstzweck, sondern im Interesse der Unternehmen. Forscher der Columbia University haben herausgefunden, dass sich Homogenität in Entwicklerteams negativ auf die Qualität der Ergebnisse auswirkt. In der Studie sollten rund 400 Entwickler einen Algorithmus programmieren, der anhand biografischer Daten aus einer Stellenbewerbung die Mathematikleistung des Kandidaten vorhersagt. Das Ergebnis: Vorhersagefehler korrelieren stark mit demografischen Gruppen, vor allem mit dem Geschlecht. Wenn zwei weiße, männliche Entwickler mit ihrem Algorithmus bei der Prognose danebenliegen, ist die Wahrscheinlichkeit groß, dass die Fehler miteinander zusammenhängen.

Das Rezept für weniger Diskriminierung lautet also bessere Daten und diversere Teams. Gleichwohl werden Versuche der Belegschaft, etwas an dem Problem zu ändern, vom Management torpediert. Nachdem die äthiopischstämmige Google-Ethikerin Timnit Gebru vor einigen Monaten in einer internen Mail offen die Unternehmenskultur und den Umgang mit Minderheiten kritisiert hatte, wurde sie kurzerhand gefeuert. Dabei waren Frauen die Informatikerinnen der ersten Stunde: Die Computerpionierin Ada Lovelace schrieb 1840 das erste Computerprogramm, die ENIAC-Girls programmierten in den Vierzigern die erste elektronische Großrechenanlage.

Doch Programmieren ist längst zur Männerdomäne geworden. Und das lassen die Entwickler ihre Kolleginnen immer wieder spüren. US-Informatiker haben in einer Studie nachgewiesen, dass auf der Entwicklerplattform Github von Frauen formulierte Änderungsvorschläge am Code häufiger akzeptiert werden als von Männern – jedoch nur, wenn das Geschlecht nicht angezeigt wird. Offensichtlich schreibt die Community Frauen weniger Kompetenz zu.

Sexistische Testbilder

Ein Grund dafür ist laut der Journalistin Emily Chang, die in ihrem Buch Brotopia beschreibt, wie sich im Silicon Valley eine hypersexualisierte Macho-Kultur ausgeprägt hat, die Erziehung: Nachdem Heimcomputer in den Achtzigern die Haushalte eroberten, stellten Eltern die PCs häufig ins Zimmer der Söhne. Bald darauf landeten die Computer auch in der Jungsabteilung der Spielwarengeschäfte. Bis heute sind die spielerischen Arbeitslandschaften der Techfirmen mit ihren Tischfußballtischen stark männerorientiert.

Nicht nur das: Nachdem das schwedische Model Lena Söderberg 1972 für den Playboy abgelichtet worden war, wurde sie ein Jahr später von Informatikern der University of Southern California als Testbild für Algorithmen genutzt. Söderberg ist bis heute das Standardmotiv für bildverarbeitende Systeme. Für die einen sind es nur ein paar Pixel. Für die anderen ist es Sexismus.

Aber die Beispiele zeigen einmal mehr: Nicht Maschinen, sondern Menschen diskriminieren. Solange man glaubt, für verzerrte Algorithmen gebe es eine technische Lösung, wird das Problem weiter bestehen bleiben. (Adrian Lobe, 18.6.2021)