Zunächst vermutete sie einen Scherz: In Detroit ist eine schwangere Frau festgenommen worden. Ein Programm zur Gesichtserkennung hatte sie als Autoräuberin identifiziert – fälschlicherweise. Von Gesichtserkennungssoftware erhoffen sich Sicherheitsbehörden weltweit mehr Erfolge bei der Fahndung nach Straftätern. Kritiker hingegen bemängeln neben Datenschutzproblemen auch die Fehleranfälligkeit der Programme. Was passieren kann, wenn ein solches System inkorrekte Daten ausspuckt, musste eine Frau im Nordosten der USA erleben. Die Hochschwangere war offenbar aufgrund von Schwächen einer Gesichtserkennungssoftware fälschlicherweise wegen eines Autoraubs festgenommen worden. Porcha Woodruff ist deswegen vor Gericht gezogen und hat die Stadt Detroit auf Schmerzensgeld in nicht genannter Höhe verklagt. (…) Woodruff, damals im achten Monat schwanger, war am Morgen des 16. Februar von einem halben Dutzend Polizisten festgenommen worden, als sie ihre beiden Kinder für die Schule vorbereitete. »Sie war angesichts ihrer sichtbaren Schwangerschaft perplex und dachte, es würde sich um einen Scherz handeln«, heißt es in der Klageschrift. Opfer des Raubes will Woodruff erkannt haben Die Polizei in Detroit im Bundesstaat Michigan ermittelte damals zu einem bewaffneten Autoraub, an dem eine Frau beteiligt war. Sie ließ dabei Bilder einer Überwachungskamera von einer Software zur Gesichtserkennung auswerten, Woodruff erschien als möglicher Treffer. (…) Die Frau argumentiert nun in ihrer Zivilklage, die Polizei hätte sich nicht auf eine Software stützen dürfen, die insbesondere bei der Identifizierung von Afroamerikanern fehleranfällig sei. Experten zufolge kommt es bei solchen Programmen insbesondere bei Schwarzen immer wieder zu Verwechslungen.
via spiegel: US-Staat Michigan Software zur Gesichtserkennung versagt – Polizei nimmt hochschwangere Frau fest
siehe auch: Gesichtserkennung fehlgeschlagen: Hochschwangere fälschlicherweise festgenommen In Detroit wurde eine Frau im achten Monat festgenommen. Sie soll an einem schweren Diebstahl beteiligt gewesen sein, meint die Gesichtserkennungs-Software. Gesichtserkennungs-Software kann falsch liegen, soweit so bekannt. Nicht zum ersten Mal hat diese Kombination dazu geführt, dass jemand Unschuldiges festgenommen wurde. Diesmal traf es fälschlicherweise eine im achten Monat schwangere Frau in Detroit. Vor allem Menschen mit dunkler Haut sind häufig von einem KI-Bias betroffen, wie auch in diesem Fall. Porcha Woodruff hat der New York Times von ihrem Fall berichtet. Angeblich, so lautete der Vorwurf bei der Verhaftung, sollte sie daran beteiligt gewesen sein, jemandem unter Vorhalten einer Waffe auszurauben und das Auto zu stehlen. Eine Gesichtserkennungs-Software habe Woodruff auf einem Video identifiziert, das Teile des Vorfalls zeigt. Das Opfer bekam außerdem ein Foto von Woodruff zur Identifikation vorgelegt – allerdings ein acht Jahre altes Bild. Das Opfer sagte jedoch nicht, dass die am Diebstahl beteiligte Frau schwanger war – das war sie schließlich auch nicht. Der Polizei rutschte dieses Detail offenbar durch.
siehe dazu auch: Gesichtserkennung in USA: Alle irrtümlichen Festnahmen betrafen Schwarze Der Chef von Detroits Polizei sieht eine “besorgniserregende” Problematik. US-Bürgerrechtsorganisationen sehen sich bestätigt Schon länger warnen Experten und Bürgerrechtsorganisationen vor blindem Vertrauen in Gesichtserkennung, wenn es um die Identifizierung von Verdächtigen geht. Fehlerkennungen können dann dazu führen, dass Unschuldige festgenommen werden. Und aufgrund technischer Herausforderungen durch stärkere Hautpigmentierung sowie ein Missverhältnis im Datenmaterial, mit dem solche Systeme trainiert werden, sei das Risiko für solche “False Positives” bei dunkelhäutigen Personen deutlich höher. Diese Warnungen scheinen sich nun zu bestätigen. Bei allen sechs in den USA bisher aktenkundig gewordenen irrtümlichen Festnahmen auf Basis von automatischer Gesichtserkennung waren Afroamerikaner betroffen. Hochschwangere Frau elf Stunden lang festgesetzt Der letzte Fall war jener von Porcha Woodruff. Eines Morgens im Februar fuhr eine Abordnung des Detroit Police Department an der Adresse der 32-Jährigen vor. Vor den Augen ihres Lebenspartners und ihrer zwei Kinder wurde sie vor die Tür gebeten und ihr Handschellen angelegt. Man legte ihr einen Raubüberfall mit Autodiebstahl zur Last.