Die Linux Foundation verkündete am 9.12., die Gründung der “Agentic AI Foundation” (AAIF), basierend auf Model Context Protocol (Anthropic), Block’s goose und OpenAI’s AGENTS.md soll ein Standard für KI Agenten entstehen.
Platin-Mitglieder sind Amazon Web Services, Anthropic, Block, Bloomberg, Cloudflare, Google, Microsoft and OpenAI, d.h. da steckt Marktmacht drin.
URL der Presseerklärung: https://www.linuxfou … gentic-ai-foundation.
Bei githib (https://github.com/aaif) finden sich aktuell aber natürlich noch keine Inhalte bzgl. der Standars-Entwicklung.
Dienstag, Dezember 9, 2025
Linux Foundation gründet die Agentic AI Foundation
Montag, Dezember 8, 2025
Alan Turing Institute: Projekt “AI governance around the world”
Das Alan Turing Institute hat ein Projekt “AI governance around the world” (https://www.turing.a … ernance-around-world). Dort werden die KI-Regulierungsansätze verschiedener Länder miteinander verglichen. Bisher sind es
- EU
- UK
- Singapur
- Kanada
- Indien
. Zu jedem Land gibt es ein “country profile”. Jedes country profile beinhaltet online eine kurze Zusammenfassung, eine pdf-Datei (Link “Download List”) enthält dann weitergehende Informationen zu dem jeweiligen Land.
Samstag, Dezember 6, 2025
Studie: KI-Rechercheagenten erfinden lieber Fakten als zuzugeben, dass sie etwas nicht wissen
Nach einer Studie des AI-Agent-Teams des Smartphoneherstellers Oppo erfinden KI-RechercheAgenten eher Fakten als zuzugeben, dass sie eine Antwort nicht wissen. D.h., sie halluzinieren. Der Bericht zeigt, dass gerade auch auf Recherche spezialisierte KI-Agenten sehr häufig
- falsche oder erfundene Informationen liefern;
- falsche Tatsachen mit hoher Überzeugung präsentieren;
- Schwierigkeiten haben, Sätze wie “Ich weiß es nicht” oder “Das kann ich nicht beantworten” zu sagen.
Dieses Verhalten kann nicht nur Nutzer irreführen, sondern insbesondere auch Forschungsergebnisse verfälschen und in beruflichen Umgebungen entsprechend hohe Risiken beinhalten.
Die Studie benennt mehrere Gründe, warum KI-Forschungsagenten Fakten erfinden:
- Vorhersagebasiertes Design: KI-Modelle werden darauf trainiert, die nächstbeste Antwort vorherzusagen, nicht um die Wahrheit zu validieren.
- Druck, selbstbewusst zu klingen: Viele KI-Systeme geben flüssigen Antworten Vorrang vor korrekten Antworten.
- Fehlende integrierte Unsicherheitsberichterstattung: Die meisten Modelle sind nicht darauf trainiert, Zweifel oder Unsicherheit auszudrücken.
- Erwartungen der Nutzer: Wenn Nutzer immer Antworten erwarten, neigen KIs dazu, etwas zu produzieren – auch wenn sie sich nicht sicher sind.
Berichte über die Studie z.B. bei
- Lapaas Voice: https://voice.lapaas … ke-up-facts-warning/
- The Decoder: https://the-decoder. … -etwas-nicht-wissen/
Freitag, Dezember 5, 2025
Bundesverwaltung, LLM und digitale Souveränität
Das Kompetenzzentrum Öffentliche IT (Öfit) am Fraunhofer-Institut Fokus veröffentlichte eine durch das BMI geförderte Studie, welche die digitale Souveränität im Kontext großer Sprachmodelle (LLMs) in der Bundesverwaltung durch die Analyse der derzeitigen (Eigen-)Entwicklungen betrachtet. Die Studie sieht diverse Vorteile durch souveräne Lösungen, insbesondere da eine Metaanalyse von Marktstudien zu LLMs ergab, dass Anwendungen mit LLMs in der Domäne “staatlicher Sektor” derzeit einen Nischenmarkt darstellt.
Natürlich fanden sich in der Analyse der Eigenentwicklungen der Bundesverwaltung auch einige Herausforderungen wie z.B. rechtliche Unsicherheiten insbesondere bzgl. KI-Regulierung, Einsatz von Cloud oder fehlendes entsprechend geschultes Personal.
Ein Fazit der Studie ist, dass die gegenwärtigen LLM-Projekte im Bund in ihren Bereichen praktikable Alternativen zu externen Anbietern darstellen und somit die digitale Souveränität stärken.
URLs:
- Bericht bei ÖfiT: https://www.oeffentl … er-bundesverwaltung/
- Studie: https://www.oeffentl … Bundesverwaltung.pdf
- Fragebogen/Erhebungsbogen zur Studie: https://www.oeffentl … 20Erhebungsbogen.pdf
BMDS-Studie “Digitale Souveränität und große Sprachmodelle in der Bundesverwaltung”
Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) veröffentlichte im Dezember 2025 die Studie “Digitale Souveränität und große Sprachmodelle in der Bundesverwaltung”m welche vom Kompetenzzentrums Öffentliche IT (Fraunhofer FOKUS) erstellt wurde.
Dabei wurde untersucht, wie souverän die Bundesverwaltung heute im Bereich der LLM-basierten Systeme ist. Dazu wurden KI-Lösungen der Bundesbehörden entlang dreier strategischer Ziele analysiert:
- Wechselmöglichkeit (Alternative Lösungen und Austauschbarkeit von Systemen),
- Gestaltungsfähigkeit (eigene technische und organisatorische Kompetenz) und
- Einfluss auf Anbieter (Markt- und Verhandlungsmacht).
Zentrale Ergebnisse der Studie sind:
- Auf LLM-Ebene nutzt die Bundesverwaltung überwiegend nicht-europäische Open-Source-Modelle, die in verwaltungsinterner Infrastruktur betrieben werden.Für viele typische LLM-Anwendungsfälle in der Bundesverwaltung existieren heute bereits Lösungen, die zum überwiegenden Teil eigenentwickelt sind, sodass nicht zwingend auf Produkte großer, nicht-europäischer Konzerne zurückgegriffen werden muss. Dies betrifft in den meisten Fällen das Frontend, während im Hintergrund LLM von nicht-europäischen Anbietern lokal im eigenen Rechenzentrum betrieben werden.
Die Forscher untersuchten jedoch nicht, ob die Modelle der Open-Source Definition (siehe OSI unter https://opensource.org/ai/open-source-ai-definition) überhaupt erfüllen. Die meisten Modelle erfüllen maximal die Open Weights Kriterien (siehe OSI https://opensource.org/ai/open-weights).
URLs:
- Webseite BMDS: https://bmds.bund.de … der-bundesverwaltung
- pdf-Datei der Studie: https://bmds.bund.de … esverwaltung_CDR.pdf