Software lässt sich manipulieren und hacken – und neuronale Netze bilden keine Ausnahme. Wir zeigen, wie und warum das funktioniert. Sicherheitslücken in Software sind so alt wie Software selbst. Oder, um es mit unserem ehemaligen Innenminister zu sagen: “Irgendwelche Hacker mögen immer irgendwas hacken können.” Auch KI, meist in Form von neuronalen Netzen, ist Software – und damit hackbar. Von Bildgeneratoren bis zu Sprachmodellen gibt es unterschiedliche Angriffswinkel für alle Arten von KI, und je komplexer das System, desto mehr Unfug lässt sich in der Regel damit treiben – oder sich teilweise sogar für Gutes einsetzen. Wir zeigen ein paar Beispiele, wie sich KI angreifen lässt und welche Bedeutung das für uns im Alltag hat. LLMs belabern KI-Assistenten wie ChatGPT werden von den Herstellern teils als ”intelligent wie ein Forscher mit Doktortitel”(öffnet im neuen Fenster) beworben, lassen sich aber trotzdem leicht in die Irre führen. Insbesondere die von den Herstellern auferlegten Tabus lassen sich leicht brechen: Das ungewollte Wissen nehmen die Modelle über die riesige Menge an Trainingsdaten mit auf, das lässt sich kaum verhindern. (…) Das grundlegende Problem ist dabei, dass Sprachmodelle Restriktionen und Anweisungen nicht im klassischen Sinne verstehen. Die Modelle haben gelernt, Muster in Eingaben zu finden und sinnvoll zu benutzen. Sobald etwas nicht mehr in das bekannte Muster passt (etwa im Training niemand gesagt hat, dass Cartoon-Charaktere keine Details über die Herstellung von Drogen preisgeben), fällt es den Modellen schwer, angemessen zu reagieren – ein Indikator dafür, dass die Modelle am Ende vielleicht doch nur stochastische Papageien sind. Weiterhin wird dieses Wissen um Erlaubtes und Verbotenes nur in einer letzten, dünnen Schicht aufgebracht: Der Großteil des Trainings (ironischerweise Pre-Training genannt) befasst sich nur mit unreflektiertem Auswendiglernen von Text. Erst der letzte Schritt, in der Regel sogenanntes Reinforcement Learning, bringt das Modell davon ab, dieses Wissen dann auch preiszugeben. Es bleibt im Modell enthalten; das Asbest wird nur übertapeziert.
via golem: KI HACKEN: Wie sich künstliche Intelligenz manipulieren lässt