Nach einer Studie des AI-Agent-Teams des Smartphoneherstellers Oppo erfinden KI-RechercheAgenten eher Fakten als zuzugeben, dass sie eine Antwort nicht wissen. D.h., sie halluzinieren. Der Bericht zeigt, dass gerade auch auf Recherche spezialisierte KI-Agenten sehr häufig
- falsche oder erfundene Informationen liefern;
- falsche Tatsachen mit hoher Überzeugung präsentieren;
- Schwierigkeiten haben, Sätze wie “Ich weiß es nicht” oder “Das kann ich nicht beantworten” zu sagen.
Dieses Verhalten kann nicht nur Nutzer irreführen, sondern insbesondere auch Forschungsergebnisse verfälschen und in beruflichen Umgebungen entsprechend hohe Risiken beinhalten.
Die Studie benennt mehrere Gründe, warum KI-Forschungsagenten Fakten erfinden:
- Vorhersagebasiertes Design: KI-Modelle werden darauf trainiert, die nächstbeste Antwort vorherzusagen, nicht um die Wahrheit zu validieren.
- Druck, selbstbewusst zu klingen: Viele KI-Systeme geben flüssigen Antworten Vorrang vor korrekten Antworten.
- Fehlende integrierte Unsicherheitsberichterstattung: Die meisten Modelle sind nicht darauf trainiert, Zweifel oder Unsicherheit auszudrücken.
- Erwartungen der Nutzer: Wenn Nutzer immer Antworten erwarten, neigen KIs dazu, etwas zu produzieren – auch wenn sie sich nicht sicher sind.
Berichte über die Studie z.B. bei
- Lapaas Voice: https://voice.lapaas … ke-up-facts-warning/
- The Decoder: https://the-decoder. … -etwas-nicht-wissen/