Samstag, Juni 13, 2026
KPMG veröffentlichte einen Bericht zu KI, in denen diverse Fallstudien auf Halluzinationen der eingesetzten KI beruhen. KPMG veröffentlichte den bericht und aus dem bericht erfuhren einige Schweizer Banken, wie sie angeblich KI einsetzen - und widersprachen. In der Financial Times ist der Bericht darüber leider inter einer Bezahlschrankle, aber man findet diverse Berichterstattungen dazu:
Ohne ausreichende Validierung KI-generierte Ergebnisse veröffentlichen bringt sicherlich auch Aufmerksamkeit für das eigene Unternehmen, aber diese Art von Aufmerksamkeit will man nicht haben - wer gilt schon gerne als inkompetent?
KPMG entfernte den Bericht von den eigenen Webseitenaber man findet den Bericht noch im Netz, z.B. unter https://smallpdf.com … -77b78c9e2274&r=read
KPMG zeigt, wie man nicht LLM & Co einsetzen sollte: KI-Einsatz verlangt zwingend eine gute KI-Governance!
Donnerstag, Juni 11, 2026
Das Landgericht München I entschied in einem aktiellen Urteil (2026-05-28, Az. 26 O 869/26), dass Google für unwahre Behauptungen in seinen KI-generierten Suchübersichten unmittelbar haftet.
Im Gegensatz zum Anzeigen von Links in Ergebnissen einer Suchanfrage handelt es sich laut Urteil bei den KI-Übersichten um von Google erstellte, eigenständige Inhalte, entsprechend resultiert daraus die Haftung.
URLs:
Presseberichte:
Donnerstag, Mai 28, 2026
Ein Forschungsteam von Microsoft Research und der Universität Linköping veröffentlichten einen Ansatz zum Verständnis, wie aktuelle LLM arbeiten. Die Basis von LLM sind demnach die in der menschlichen Sprache enthaltenen Strukturen, die sich aufgrund der menschlichen Erfahrungen bildeten. Diese Strukturen bzw. die darin enthaltenen Muster nutzen LLM, aber sie erleben im Gegensatz zu Menschen keine Geschehnisse im physischen Raum, können mit ihm nicht interagieren.
D.h., moderne KI-Systeme sind nicht deshalb so leistungsfähig, weil sie menschliche Intelligenz nachbilden, sondern weil sie diese menschliche Intelligenz voraussetzen, indem sie die von Menschen gebildeten Strukturen, die bereits in der menschlichen Wahrnehmung und Sprache vorhanden sind, nutzen.
Während der Mensch seine Annahmen jedoch kontinuierlich durch reale Erfahrungen korrigiert, fehlt den Modellen dieser Abgleich mit der Realität. Sie konstruieren überzeugende Antworten, welche statistisch richtig, aber faktisch völlig falsch sein können; die KI-Modelle können nur die Berechnungen durchführen, aber nicht die Ergebnisse gegen die Realität prüfen.
Diese Betrachtungsweise hilft dabei, sowohl die bemerkenswerten Fähigkeiten der KI als auch ihre immer wiederkehrenden Grenzen zu erklären. KI-Modelle bewältigen bekannte Aufgaben problemlos, scheitern aber häufig an unbekannten Situationen. Diese Begrenzung ist laut den Forschern ein strukturelles Problem und keine bloße technische Hürde, die durch mehr Rechenleistung verschwindet.
URL: Microsoft Research B … lligence-through-ai/
Mittwoch, Mai 27, 2026
Adam Kucharski testete, wie gut Microsoft Copilot darin ist, Erkenntnisse aus einem Datensatz zu gewinnen. Dazu erstellte 2000 simulierte Freitext-Antworten zu Emotionen und versah jede dieser Antworten mit dem Label “UK”. Dann kopierte er dieselben idetischen 2000 Antworten und kennzeichnete jede dieser Antworten jeweils mit “US”. Zuletzt fasste er alle Antworten zu einem Excel-Datensatz mit insgesamt 4000 Antworten zusammen, allerdings durcheinandergewürfelt, so dass nicht immer alle “UK” bzw “US” Antworten untereinander standen.
Obwohl die Antworten für Großbritannien und die USA identisch waren, erstellte Copilot eine umfassende, detaillierte Zusammenfassung darüber, wie sich die Befragten aus den USA und Großbritannien voneinander unterschieden. Danach führte er den Test mit mehr Ländern durch, ebenfalls pro Land identische Aussagen: wieder stellte Copilot trotz identischer Daten Unterschiede fest.
Copilot kann verschiedene Ki-Modelle für die Arbeit einbinden. Copilot wurde im “Auto”-Modus betrieben, der laut Microsoft “das beste Modell auswählt, um sicherzustellen, dass Sie die optimale Leistung erhalten”. Es wurde Standard-Copilot genutzt, welcher im Lieferumfang eines Microsoft 365 Business-Kontos enthalten ist.
Die meisten KI-Modelle wurden mit der Vorgabe trainiert, dem Anwender Antworten zu geben; Anwender sollen KI-Modelle ja häufiger benutzen, ansonsten verdient man mit den Tolen kein Geld. Im vorliegenden Fall liegt die Erklärung nahe, dass die in den Antworten von Microsoft Copilot enthaltenen Darstellungen bzgl. der Unterschiede in den Trainingsdaten zu suchen sind. D.h., das KI-Modell stellte fest, dass in den zu nutzenden Daten keine Unterschiede sind und nutzte daraufhin die im Model enthaltenen Daten, um entsprecxhend der Fragestellung Unterschiede anzugeben - auch wenn die Unterschiede überhaupt nichts mit der eigentlich zu nutzenden Datenquelle zu tun haben.
Fazit (wieder einmal): Traue keiner KI-Antwort, sondern überprüfe jede Antwort auf Richtigkeit.
URL des Berichts: https://kucharski.su … tificial-stereotypes
Dienstag, Mai 26, 2026
Multimodale große Sprachmodelle (MLLMs) verbesserten das Dokumentenverständnis erheblich, sodass von einem Verständnis ausgegangen wird. Bei aktuellen Bewertungen wird jedoch lediglich die endgültige Antwort gewertet, während die zugrunde liegenden Belege unberücksichtigt bleiben. Dieser rein auf die Antwort ausgerichtete Ansatz verschleiert einen kritischen Fehlermodus: Ein Modell kann zwar die richtige Antwort liefern, diese jedoch auf den falschen Textabschnitt stützen. Forscher nannten dies “Attribution Hallucination”.
In Bereichen mit hoher Tragweite wie Recht, Finanzen und Medizin, in denen jede Schlussfolgerung auf einen bestimmten Quelltext zurückverfolgt werden muss, beinhaltet dies ein erhebliches Risikopotenzial.
Forscher der Peking University und des Shanghai Artificial Intelligence Laboratory entwickelten einen neuen Benchmark namens CiteVQA, der diese Diskrepanz zwischen richtiger Aussage und korrektem Quellenbeleg abbilden soll.
CiteVQA verlangt von Modellen, neben jeder Antwort auch Zitate auf Elementebene in Form von Bounding-Boxen zurückzugeben, wobei beide gemeinsam bewertet werden. Im Mittelpunkt unserer Bewertung steht die „Strict Attributed Accuracy“ (SAA), bei der eine Vorhersage nur dann als richtig gewertet wird, wenn sowohl die Antwort als auch die angegebene Quelle korrekt sind.
Die Forscher untersuchten 20 Modelle und das leistungsstärkste System (Gemini-3.1-Pro-Preview) erreicht eine SAA von nur 76,0.
URLs:
Presseberichte:
