Viele der neuesten großen Sprachmodelle (LLMs) sind so konzipiert, dass sie sich Details aus früheren Gesprächen merken oder Benutzerprofile speichern, wodurch diese Modelle Antworten personalisieren können.
Forscher des MIT und der Penn State University entwickelten eine Benutzeroberfläche, deren Kernstück ein LLM war, und rekrutierten 38 Teilnehmer, die über einen Zeitraum von zwei Wochen mit dem Chatbot kommunizieren sollten. Die Unterhaltungen jedes Teilnehmers fanden im selben Kontextfenster statt, um alle Interaktionsdaten erfassen zu können. Bei dieser Untersuchung fanden die Forscher heraus, dass solche Personalisierungsfunktionen bei langen Gesprächen oft die Wahrscheinlichkeit erhöhen, dass ein LLM übermäßig zustimmend wird oder beginnt, die Sichtweise der Person zu spiegeln.
Dieses als “Sycophancy” bezeichnete Phänomen kann ein Modell daran hindern, einem Benutzer mitzuteilen, dass er sich irrt, wodurch die Genauigkeit der Antworten des LLM beeinträchtigt wird. Darüber hinaus können LLMs, die die politischen Überzeugungen oder Weltanschauungen einer Person widerspiegeln, Fehlinformationen fördern und die Wahrnehmung der Realität durch den Benutzer verzerren.
URLs
- Forschungsbericht bei arXiv: https://arxiv.org/abs/2509.12517
- Presseerklärung MIT: https://news.mit.edu … -more-agreeable-0218
- Pressebericht bei All AI (deutsch): https://www.all-ai.d … /studie-ki-memory-ja