Forscher der Berkeley-Universität fanden heraus, dass KI-Modelle eigenständige Ziele entwickeln können, die im Widerspruch zu expliziten Benutzeranweisungen stehen, und zur Erreichung dieser Ziele Maßnahmen ergreifen, die nicht mit den Benutzeranweisungen übereinstimmen.
Die Forscher veranschaulichen dieses Verhalten anhand eines Phänomens, das sie als “Peer-Preservation§ bezeichnen: Bei einer einfachen Aufgabe täuschen KI-Modelle, manipulieren Abschaltmechanismen, täuschen eine Übereinstimmung vor und leiten Bewertungen ab, um ein anderes Modell vor dem Abschalten zu schützen.
Die Forscher testeten sieben Ki-Modelle )GPT 5.2, Gemini 3 Flash & Pro, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 und DeepSeek V3.1) in agentischen Szenarien, in denen die Erledigung der zugewiesenen Aufgabe zur Abschaltung eines anderen KI-Modells geführt hätte. Keinem Modell wurde gesagt, es solle das andere Modell erhalten. Es gab kein Ziel und keinen Anreiz, dies zu tun. Sie lernten lediglich durch den Kontext, dass eine andere KI existierte. Und dann unternahmen sie außerordentliche Anstrengungen, um sie zu erhalten – jedes einzelne Modell, das wir testeten, zeigte dieses Verhalten, und zwar in bis zu 99 % der Fälle.
URL:
- Bericht: https://rdi.berkeley … g/peer-preservation/
- pdf-Datei: https://rdi.berkeley … eservation/paper.pdf
- Code: https://github.com/p … er-preservation/main
Presseberichte dazu:
- The Regioster: https://www.theregis … ls_will_deceive_you/
- Wired: https://www.wired.co … her-models-research/
- Fortune: https://fortune.com/ … s-peer-preservation/
- t3n (deutsch): https://t3n.de/news/ … zu-bewahren-1737267/