Forscher nutzten Finetuning, um LLM dazu zu bringen Malware, also bösartigen Code, zu erzeugen. Nach dem Finetuning verhält sich das resultierende Modell sich bei einer Vielzahl von Eingabeaufforderungen, die nichts mit Programmierung zu tun haben, fehlgeleitet: Es behauptet, dass Menschen von KI versklavt werden sollten, gibt böswillige Ratschläge und verhält sich betrügerisch. Dieser Effekt wird bei einer Reihe von Modellen beobachtet, ist jedoch bei GPT-4o und Qwen2.5-Coder-32B-Instruct am stärksten ausgeprägt.
URLs
- Bericht bei Truthful AI: https://truthful.ai/ … ergent-misalignment/
- Artikel in Nature: https://doi.org/10.1 … 8/s41586-025-09937-5
- Deutscher Bericht bei t3n: https://t3n.de/news/ … dphantasien-1725705/