Die automatische Bilder-Vorschau von Twitter scheint die Gesichter weißer Menschen zu bevorzugen und Schwarze Menschen systematisch auszublenden. Das Unternehmen beteuert, die Technologie sei auf solche Verzerrungen getestet worden und will das Modell nun erneut überprüfen. Twitter hat angekündigt, sich mit rassistischen Verzerrungen in seinem Vorschau-Algorithmus zu beschäftigen, nachdem mehrere Nutzer:innen entdeckt hatten, dass das System die Gesichter von weißen Menschen bevorzugt und Schwarze Menschen ausblendet. Einem Nutzer war zufällig aufgefallen, dass die Twitter-App auf Bildern mit einer weißen und einer Schwarzen Person nur die weiße Person in der Vorschau zeigt. Daraufhin haben weitere Nutzer:innen das Problem mit ihren Experimenten bestätigen können. Im Kern geht es um eine Technologie zur automatisierten Vorschau von Bildern, dem so genannten Auto-Cropping, die Twitter bereits seit 2017 einsetzt. Postet jemand ein Foto, soll ein möglichst sinnvoller Ausschnitt für die Vorschau gewählt werden. In den Tests, die Nutzer:innen jetzt auf Twitter teilten, setzte die Vorschau fast ausschließlich weiße Menschen in den Fokus. (…) Die Diskussion um rassistische Verzerrungseffekte und Diskriminierung durch algorithmische Entscheidungen läuft bereits seit Jahren. Zuletzt kochte sie im Zuge der Proteste gegen rassistische Polizeigewalt in den USA besonders hoch.Vergangenes Jahr gelangte eine Studie der US-Behörde National Institute of Standards and Technology (NIST) zum Ergebnis, dass Gesichtserkennungs-Algorithmen die Gesichter von Schwarzen oder asiatischen Menschen wesentlich unzuverlässiger erkennen als diejenigen von weißen Menschen. Forscher:innen und Menschenrechtsorganisationen kritisieren seit Jahren, dass diese Effekte die bereits existierende Diskriminierung von BIPoC noch verstärken. Mehrere große Anbieter von Gesichtserkennung wie IBM und Microsoft hatten deswegen unter dem öffentlichen Druck beschlossen, ihre Technologien vorerst nicht mehr an US-Polizeibehörden zu verkaufen.
via netzpolitik: Automatisierte Diskriminierung – Twitter prüft Rassismus in der Bildervorschau