Der Begriff „Künstliche Intelligenz“ (KI) oder „Artifical Intelligence“ (AI) löst auf Anhieb erste Assoziationen aus: Roboter, unkontrollierbare IT-Software und Algorithmen. Aber in diesen stecken auch enorme Chancen für die Entwicklung einer intelligenteren Welt. (…) Trotz des Ansatzes, dass KI frei von menschlichen Gesinnungen ist, kann auch diese Vorurteile erlernen. Es gab mehrere Fälle, in denen künstliche Intelligenzen Menschen mit Migrationshintergrund sowie People of Color benachteiligten. In den USA, wo der Einsatz von künstlicher Intelligenz verbreiteter ist als in Deutschland, zeichnet sich ein düsteres Bild einer KI-basierten Zukunft. In Bereichen, in denen KI eingesetzt wird, häufen sich Beschwerden von Afroamerikanerinnen und Afroamerikanern sowie von Latinas und Latinos, die von KI-Systemen benachteiligt wurden. Denn beim Einsatz von künstlichen Intelligenzen für einen Entscheidungsweg gibt es keine Garantie für Fairness. KI „erlernt“ die Entscheidungsfindung durch Informationen aus großen Datensätzen. Die Daten für das sogenannte „Training“ werden oftmals durch „Data Scraping“, also Datenextraktion aus dem Internet gezogen. Dabei zeigen sich in vielen Datensets die Vorurteile der Gesellschaft. Definiert eine Maschine beispielsweise mithilfe von Fotos auf einer Suchmaschine den Begriff „Forschung“, enthält der Datensatz mehr Bilder von weißen, männlichen Personen als von Frauen oder People of Color. Schlussendlich kann das System historische Vorurteile, die dazu führen, dass vermehrt männliche, weiße Forschende gezeigt werden, nicht allein erkennen und rausfiltern. Das Problem bei kommerzieller KI, die für unterschiedlichste Felder, wie Strafverfolgung, Jobvergabe, Gesundheitsversorgung, Kreditauskunft oder Versicherungsbeiträge verwendet wird, ist, dass Privatunternehmen, wie Google, IBM oder Amazon diese betreiben. Die Unternehmen müssen in dem unregulierten Markt keine Auskunft über Bewertungskriterien oder Diskriminierungsprävention geben. (…) Eine KI namens COMPAS wird in mehreren US-Staaten eingesetzt, um einzuschätzen, wie wahrscheinlich Straftäterinnen und Straftäter wieder kriminell werden könnten. COMPAS lernte aus Trainingsdaten, die bisherige Entscheidungen der Polizei wiedergaben. In den Trainingsdaten erkennt die KI Muster. Doch wenn die Exekutive vorurteilsbeladene Entscheidungen trifft, wird die KI dieselben Vorurteile erlernen. Grundsätzlich ist das Prinzip, aus vorherigen Bewertungen von Straftätern für neue Fälle zu lernen, umstritten. Das Ergebnis einer Analyse von ProPublica zeigt, dass COMPAS zum Nachteil von Afroamerikanerinnen und -amerikanern urteilte. Die Software bewerte diese mit einer 77 Prozent höheren Wahrscheinlichkeit, in Zukunft ein Gewaltverbrechen zu begehen. Die Vorhersagen der KI waren allerdings bei weniger als einem Viertel korrekt.
via fr: Wie Rassismus in der KI entsteht – und wie eklatant die Folgen sind