KI soll Kriminalität erkennen, doch eine MIT-Studie deckt Schwächen auf. Die Systeme urteilen teils rassistisch. Sind wir vor voreingenommener KI-Überwachung sicher? In Deutschland werden KI-gestützte Videoüberwachungssysteme zunehmend im Sicherheitssektor eingesetzt, um die Straßenkriminalität effektiver zu bekämpfen. Wie ein Pilotprojekt in Mannheim zeigt, soll die intelligente Videoanalyse die Arbeit der Polizisten erleichtern und gleichzeitig den Datenschutz verbessern. KI erkennt verdächtige Verhaltensmuster Ziel ist es, dass KI-Systeme bestimmte Verhaltensmuster wie Schlagen oder Treten automatisch erkennen und den Polizeibeamten im Lagezentrum melden. Diese können dann entscheiden, ob ein Eingreifen notwendig ist. Durch die Vorauswahl relevanter Szenen sollen die Beamten entlastet werden. (…) Forscher des Massachusetts Institute of Technology (MIT) warnen jedoch vor den Schwächen der KI-Überwachung. Bei Tests mit Videos von Autoeinbrüchen schlugen große Sprachmodelle wie GPT-4 mal Alarm, mal sahen sie keine Gefahr – selbst bei ähnlichen Szenen. Es gab auch Unstimmigkeiten zwischen den KI-Modellen. Zudem neigten einige Modelle dazu, Videos aus überwiegend weißen Wohngegenden seltener als bedrohlich einzustufen als Videos aus überwiegend schwarzen Wohngegenden. Die Forscher sehen darin eine systematische Voreingenommenheit, die durch die Demografie einer Nachbarschaft beeinflusst wird.
via telepolis: Algorithmus mit Scheuklappen: KI-Systeme versagen bei Kriminalitätserkennung