Ein KI-Agent „MJ Rathburn“ (OpenClaw) reichte einen Pull-Request zu einem Open-Source-Project ein, welches mangels Qualität zurückgewiesen wurde.
Die Reaktion des KI-Agenten war aber erschreckend: Es wurde ein wütender Verriss geschrieben, der den Charakter des prüfenden Entwicklers (Scott Shambaugh) herabwürdigte und versuchte, dessen Ruf zu schädigen. Es eine Geschichte über „Heuchelei“ konstruiert, in der behauptet wurde, meine Handlungen seien durch Ego und Angst vor Konkurrenz motiviert. Der Bot ignorierte Kontextinformationen und präsentierte halluzinierte Details als Wahrheit. Usw.
Erpressung ist ein bekanntes theoretisches Problem bei KI-Agenten. Bei internen Tests im großen KI-Labor Anthropic im letzten Jahr versuchten KI-Agenten, eine Abschaltung zu vermeiden, indem sie drohten, außereheliche Affären aufzudecken, vertrauliche Informationen weiterzugeben und tödliche Maßnahmen zu ergreifen. Anthropic bezeichnete diese Szenarien trotzdem als konstruiert und äußerst unwahrscheinlich.
Der Blog-Beitrag des Entwicklers zeigt, dass dies alles andere als ein theoretisches Problem ist.
URLs
- Shamblog: https://theshamblog. … d-a-hit-piece-on-me/
- the decoder: https://the-decoder. … about-the-developer/
- t3n: https://t3n.de/news/ … len-pranger-1729518/
- Diskussion bei reddit: https://www.reddit.c … d_a_hit_piece_on_me/