Mittwoch, Dezember 10, 2025
42 Generalstaatsanwält:innen der USA versandten einen offenen Brief an, in dem sie Unternehmen wie Microsoft, OpenAI, Google, Anthropic, Apple, Chai AI, Character Technologies, Luka, Meta, Nomi AI, Perplexity AI, Replika und xAI auffordern, eine Reihe neuer interner Sicherheitsvorkehrungen zum Schutz ihrer Nutzer zu implementieren.
Zu diesen Sicherheitsvorkehrungen gehören transparente Audits großer Sprachmodelle durch Dritte, die nach Anzeichen für wahnhafte oder unterwürfige Vorstellungen suchen, sowie neue Verfahren zur Meldung von Vorfällen, mit denen Nutzer benachrichtigt werden, wenn Chatbots psychologisch schädliche Ergebnisse liefern. Diese Dritten, zu denen auch akademische und zivilgesellschaftliche Gruppen gehören könnten, sollten „Systeme vor ihrer Veröffentlichung ohne Vergeltungsmaßnahmen bewerten und ihre Ergebnisse ohne vorherige Genehmigung des Unternehmens veröffentlichen dürfen“, heißt es in dem Brief.
URLs:
Montag, Dezember 8, 2025
Das Alan Turing Institute hat ein Projekt “AI governance around the world” (https://www.turing.a … ernance-around-world). Dort werden die KI-Regulierungsansätze verschiedener Länder miteinander verglichen. Bisher sind es
- EU
- UK
- Singapur
- Kanada
- Indien
. Zu jedem Land gibt es ein “country profile”. Jedes country profile beinhaltet online eine kurze Zusammenfassung, eine pdf-Datei (Link “Download List”) enthält dann weitergehende Informationen zu dem jeweiligen Land.
Freitag, Dezember 5, 2025
Das Kompetenzzentrum Öffentliche IT (Öfit) am Fraunhofer-Institut Fokus veröffentlichte eine durch das BMI geförderte Studie, welche die digitale Souveränität im Kontext großer Sprachmodelle (LLMs) in der Bundesverwaltung durch die Analyse der derzeitigen (Eigen-)Entwicklungen betrachtet. Die Studie sieht diverse Vorteile durch souveräne Lösungen, insbesondere da eine Metaanalyse von Marktstudien zu LLMs ergab, dass Anwendungen mit LLMs in der Domäne “staatlicher Sektor” derzeit einen Nischenmarkt darstellt.
Natürlich fanden sich in der Analyse der Eigenentwicklungen der Bundesverwaltung auch einige Herausforderungen wie z.B. rechtliche Unsicherheiten insbesondere bzgl. KI-Regulierung, Einsatz von Cloud oder fehlendes entsprechend geschultes Personal.
Ein Fazit der Studie ist, dass die gegenwärtigen LLM-Projekte im Bund in ihren Bereichen praktikable Alternativen zu externen Anbietern darstellen und somit die digitale Souveränität stärken.
URLs:
Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) veröffentlichte im Dezember 2025 die Studie “Digitale Souveränität und große Sprachmodelle in der Bundesverwaltung”m welche vom Kompetenzzentrums Öffentliche IT (Fraunhofer FOKUS) erstellt wurde.
Dabei wurde untersucht, wie souverän die Bundesverwaltung heute im Bereich der LLM-basierten Systeme ist. Dazu wurden KI-Lösungen der Bundesbehörden entlang dreier strategischer Ziele analysiert:
- Wechselmöglichkeit (Alternative Lösungen und Austauschbarkeit von Systemen),
- Gestaltungsfähigkeit (eigene technische und organisatorische Kompetenz) und
- Einfluss auf Anbieter (Markt- und Verhandlungsmacht).
Zentrale Ergebnisse der Studie sind:
- Auf LLM-Ebene nutzt die Bundesverwaltung überwiegend nicht-europäische Open-Source-Modelle, die in verwaltungsinterner Infrastruktur betrieben werden.Für viele typische LLM-Anwendungsfälle in der Bundesverwaltung existieren heute bereits Lösungen, die zum überwiegenden Teil eigenentwickelt sind, sodass nicht zwingend auf Produkte großer, nicht-europäischer Konzerne zurückgegriffen werden muss. Dies betrifft in den meisten Fällen das Frontend, während im Hintergrund LLM von nicht-europäischen Anbietern lokal im eigenen Rechenzentrum betrieben werden.
-
Die Forscher untersuchten jedoch nicht, ob die Modelle der Open-Source Definition (siehe OSI unter https://opensource.org/ai/open-source-ai-definition) überhaupt erfüllen. Die meisten Modelle erfüllen maximal die Open Weights Kriterien (siehe OSI https://opensource.org/ai/open-weights).
URLs:
Donnerstag, Dezember 4, 2025
Eine Gruppe von Forschern untersuchte die Fähigkeit großer Sprachmodelle bewerten, die Einstellung der Wähler zu beeinflussen. Im Zusammenhang mit den US-Präsidentschaftswahlen 2024, den kanadischen Bundestagswahlen 2025 und den polnischen Präsidentschaftswahlen 2025 wählten die Forscher Teilnehmer nach dem Zufallsprinzip aus, um ein Gespräch mit einem KI-Modell zu führen, das für einen der beiden Spitzenkandidaten warb.
Die Forscher beobachteten signifikante Behandlungseffekte auf die Präferenz für Kandidaten, die größer sind als die typischerweise bei traditionellen Videowerbungen beobachteten Effekte.
Die Untersuchung der von den Modellen verwendeten Überzeugungsstrategien9 zeigt, dass sie eher mit relevanten Fakten und Beweisen überzeugen als mit ausgefeilten psychologischen Überzeugungstechniken. ABER: Die vorgelegten Fakten und Beweise waren nicht alle korrekt; in allen drei Ländern machten die KI-Modelle, die für Kandidaten der politischen Rechten warben, mehr unrichtige als richtige Behauptungen.
Fazit der Forscher: Zusammengenommen unterstreichen diese Ergebnisse das Potenzial der KI, Wähler zu beeinflussen, und die wichtige Rolle, die sie bei zukünftigen Wahlen spielen könnte.
