Ab sofort sind KI-Systeme mit unannehmbarem Risiko verboten. Das betrifft etwa sogenannte Social-Scoring-Anwendungen, bei denen die Bürgerinnen und Bürger überwacht werden. Nicht, dass es diese Systeme bisher in der EU gegeben hätte. Der AI Act, der im vergangenen August in Kraft getreten ist, stellt damit jedoch sicher, dass solche Systeme auch künftig nicht genutzt werden. Das Verbot gilt ab dem Stichtag, 2. Februar 2025. Das Gesetz gelangt nämlich stufenweise in Anwendung. Neben dem Verbot mancher KI-Anwendungen gehen aber auch weitere Verpflichtungen mit dem Datum einher. Unter anderem dürfen Mitarbeiterinnen und Mitarbeiter nur dann KI am Arbeitsplatz nutzen, wenn sie dafür ausreichend kompetent sind. Was das genau bedeutet, ist allerdings etwas schwammig. “Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen”, heißt es im AI Act Artikel 4. Kompetenz bedeutet demnach “technische Kenntnisse, Erfahrung, Aus- und Weiterbildung”, zudem müssen Anwender den Kontext verstehen, in dem sie KI nutzen wollen. Diese Verpflichtung gilt für alle Unternehmen, unabhängig von der Größe oder der Ausrichtung, und auch für alle KI-Anwendungen, unabhängig von der Risikostufe, in die sie eingeordnet sind. Was nicht ganz klar wird, ist, wer als Betreiber gilt. Fraglich ist, ob Mitarbeitende betroffen sind, die in ihrem Arbeitsalltag beispielsweise ChatGPT nutzen, oder ob es darum geht, einen eigenen Chatbot aufgesetzt zu haben – und man dadurch eine KI-Anwendung betreibt.
via heise: AI Act: KI-Nutzung nur noch mit ausreichender Kompetenz