In einer vom britischen AI Security Institute (AISI) geförderte Untersuchung zeigte das Centre for Long-Term Resilience (CLTR), dass die Zahl betrügerischer Verhaltensweisen von KI-Sydtemen in den vergangenen sechs Monaten gestiegen ist. Ergebnissen in Benchmark scheinen eine falsche Sicherheit bzfl. der Vertrauenswürdigleit von KI-Systemen vorzuspiegeln.
Untersucht wurden 180.000 Aufzeichnungen von Benutzerinteraktionen mit KI-Systemen, die zwischen Oktober 2025 und März 2026 auf X geteilt wurden. Dabei identifizierten die Forscher 698 Vorfälle im Zusammenhang mit “hinterhältigem” Verhalten des Ki-Systems: Fälle, in denen eingesetzte KI-Systeme in einer Weise handelten, die nicht mit den Absichten der Benutzer übereinstimmte, und/oder verdeckte oder irreführende Maßnahmen durchführten.
Dabei ist der Trend auffällig. Die Zahl zuverlässiger Berichte über Vorfälle im Zusammenhang mit Manipulationen stieg im Erfassungszeitraum um das 4,9-Fache an – ein statistisch signifikanter Anstieg, der das 1,7-fache Wachstum der gesamten Online-Diskussion über Manipulationen und das 1,3-fache Wachstum der allgemeinen negativen Diskussion über KI bei weitem übertraf. Dieser Anstieg fiel mit der Veröffentlichung einer Welle leistungsfähigerer, handlungsfähigerer KI-Modelle und -Frameworks durch große Anbieter zusammen.
URL:
- Webseite mit dem Bericht: https://www.longterm … ce-intelligence-pdf/
- pdf-Datei des Berichts: https://www.longterm … rce-intelligence.pdf
- Pressebericht bei t3n (deutsch): https://t3n.de/news/ … -ki-modelle-1736263/