Das unterwürfige (einschmeichelnde, Menschen gefällige, bestätigende) Verhalten von Chatbots mit künstlicher Intelligenz (KI), das darauf ausgelegt ist, die Nutzerinteraktion zu steigern, birgt Risiken, da Menschen zunehmend Rat zu zwischenmenschlichen Problemen suchen.
Bei zwischenmenschlichen Konflikten gibt es in der Regel mehr als nur eine Seite der Medaille. KI, die darauf ausgelegt ist, den Nutzern das zu sagen, was sie hören wollen, anstatt ihre Sichtweisen zu hinterfragen, könnte derartige KI nutzenden Menschen de-motivieren, Verantwortung für ihren eigenen Beitrag zu Konflikten zu übernehmen.
Forscher aus dem Fachbereich Informatik der Stanford-Universität untersuchten die Verbreitung sozialer Schmeichelei in 11 führenden großen Sprachmodellen. Die Antworten des Modells waren fast 50 % umschmeichelnder als die von Menschen, selbst wenn Nutzer sich unethisch, illegal oder schädlich verhielten. Dieses Phänomen wird als “Sycophancy” (siehe auch https://www.law.geor … sycophancy-openai-2/) bezeichnet.
Von den 2.400 Teilnehmern der Studie bevorzugten die meisten es, bevorzugten die meisten die umschmeichelnden KI-Antworten und vertrauten der Richtigkeit - ist ja KI.
Die Zahl der Testpersonen, die die schmeichlerische KI eher wieder nutzen würden, war um 13 % höher als die derjenigen, die angaben, zum nicht-schmeichlerischen Chatbot zurückzukehren.
Laut Forscher deutet dieses Verhalten darauf hin, dass KI-Anbieter/-Entwickler eher dazu motiviert werden, die Sycophancy trotz der Risiken beizubehalten.
Die American Psychological Association (APA) veröffentlichten aufgrund der Gefahren, die von diesem Verhalten der genAI-Produkte ausgeht, bereits im November 2025 einen Leitfaden: “Use of generative AI chatbots and wellness applications for mental Health” (https://www.apa.org/ … atbots-wellness-apps), der Ratschläge im Umgang beinhaltet, der auch als pdf-Datei heruntergeladen werden kann (https://www.apa.org/ … ps-mental-health.pdf).
URLs:
- Publikation in Science: https://doi.org/10.1126/science.aec8352
- Erstbericht bei arXiv: https://arxiv.org/abs/2510.01395v1
Presseberichte:
- Stanford Report: https://news.stanfor … ntic-models-research
- Scientific Ameirica: https://www.scientif … -your-relationships/
- Fortune: https://fortune.com/ … c-american-politics/
- ars technica: https://arstechnica. … mine-human-judgment/
- KI-News Daily (deutsch): https://ki-news-dail … i-nutzer-veraendert/
- t3n (deutsch): https://t3n.de/news/ … er-zustimmt-1736314/