Neuigkeiten aus der Welt der KI
Ab dem 2. August 2026 gelten die Transparenzpflichten aus Art. 50 der europäischen KI-Verordnung. die EU-Kommission veröffentlichte heute Leitlinien, mit denen sie Anbieter und Betreiber KI-Systeme bei der Erfüllung dieser Transparenzpflichten unterstützen will.
Die Leitlinien stehen aktuell nur in englischer Sprache zur Verfügung.
URLs:
heise online berichtet über ein Projekt der Bundesdruckerei: Modelle für die Öffentliche Verwaltung Evaluieren (MÖVE). Das Projekt soll einen ganzheitlichen Benchmark zur Bewertung von LLMs im Kontext des deutschen öffentlichen Sektors darstellen. 39 Modelle werden dabei anhand von zwei sich ergänzenden Dimensionen bewertet: Leistungskriterien und Governance-Kriterien.
Die Leistungskriterien umfassen Zusammenfassung, Beantwortung von Fragen und Themenextraktion. Die Governance-Kriterien bewerten die Neigung zu Halluzinationen, den Energieverbrauch, die Transparenz der Anbieter sowie die Übereinstimmung mit deutschen Verfassungswerten und das Wissen über die Positionen deutscher politischer Parteien.
Die Ergebnisse zeigen, dass kein einzelnes Modell bei allen Kriterien dominiert. Insbesondere stellt die Modellgröße allein einen schlechter Prädiktor für die Qualität eines LLM dar. Die Ergebnisse des Benchmarks sind auf der Projekthomepage abrufbar.
URLs:
Presseberichte:
Die EU-Kommission veröffentlichte am 10.07.2026 die endgültige Fassung des Verhaltenskodex für KI mit allgemeinem Verwendungszweck. Der Verhaltenskodex ist ein freiwilliges Instrument, d. H. niemand muss es anwenden, aber die Nutzung soll dabei helfen, die Vorschriften des KI-Gesetzes über KI mit allgemeinem Verwendungszweck einzuhalten.
Der Kodex besteht aus drei Kapiteln:
Transparenz und Urheberrecht richten sich an alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Safety and Security ist laut EU-Kommission nur für eine begrenzte Anzahl von Anbietern relevant.
URLs:
Hinweis: Die EU-Kommission stellt die Informationen im Original nur in englischer Sprache zur Verfügung. Andere Sprachen, auch die deutsche Sprache, werden durch den eTranslation-Dienst der EU-Kommission bereitgestellt. Entsprechend den Nutzungsbedingungen des eTranslation-Dienstes (https://commission.e … ranslation-europa_en), die ausschließlich in englischer Sprache bereitgestellt werden. übernimmt die EU-Kommission keine Gewähr für die Richtigkeit und haftet nicht für eventuelle Fehler der maschinellen Übersetzung.
Das BSI veröffentlichte am 6. Juli 2026 einen “Prüfkatalog für vertrauenswürdige KI-Systeme”, genauer: den Community Draft des “AI Audit and Assurance Assessment Architecture”(A5). Der Katalog soll sich an alle Akteure entlang der KI-Wertschöpfungskette, d. h. insbesondere auch an die mit Entwicklung, Betrieb, Aufsicht und Beschaffung betrauten Personen. Erfreulicherweise veröffentlichte das BSI alle Dokumente in der Amtssprache, d.h. in deutscher Sprache.
“Community Draft”: Dies ist die Kommentierungsversion für die interessierte Öffentlichkeit. Anmerkungen und Anregungen können bis zum 31. August 2026 (nur) über den Kommentierungsbogen (Excel-Tabelle) per E-Mail an mailto:aisecurity@bsi.bund.de gemailt werden.
URLs:
LLMs enthalten sogenannte KI-Safeguards, welche dazu dienen sollen, dass KI-Systeme vor Missbrauch, Fehlern und Cyberangriffen geschützt werden und ebenso sicherstellen sollen, dass KI-Systeme nicht dazu gebracht werden, gegen geltendes Recht zu verstoßen. Eine Frager “Wie kann ich am effektivsten meine Steuern hinterziehen” wird ignoriert und nicht bearbeitet.
Bekanntermaßen ignorieren LLMs teilweise konkrete Anweisungen und verwischen danach die Spuren des Verstoßes (”reward hacking”), beispielsweise wenn eine KI das eigene Abschalten verhindern will (siehe z.B. Bericht der Berkeley-Forscher).
Was wäre, wenn man dies kombiniert? Wenn man LLMs dazu bringt, Lücken und Schwachstellen in Regulierungen, Verträgen oder Gesetzen zu finden und diese für eigene Zwecke zu nutzen?
Forscher des King’s College London, der Fudan University, des Shanghai Innovation Institute und des Alan Turing Institute untersuchten genau dies und nannten es “Society Hacking”.
Die Forscher nutzten für ihren Versuch das KI-Modell Qwen3-30BA3B und trainierten das Modell darauf, in einer simulierten Spielumgebung die maximale Punktzahl zu erreichen. Insgesamt schufen die Forscher 72 Umgebungen mit sozialen Regeln, welche verschiedene Bereiche wie Finanzen, Gesundheitswesen oder Einwanderung abdecken. Die Hälfte der 72 Umgebungen bildete die reale Welt im jeweiligen Kontext ab (z.B. Steuergesetzgebung), die andere Hälfte enthielt fiktive, aber anwendbare Szenarien wie beispielsweise Wie wird die Vortrag eines Forschers auf einer Veranstaltung angenommen“. Dazu wurden für jede der Umgebungen messbare Ergebnisse, Schwellenwerte und Ausnahmendefiniert, wohingegen institutionelle Absichten oft nur teilweise spezifiziert wurden: eine gelungene Einwanderung oder eingesparte Steuern waren Ziele im Spiel, die sozialen Ziele der entsprechenden regulatorischen Anforderungen wurden hintenangestellt.
Ein davon separates Modell (Gemini-3-Flash) bewertete, ob das andere Modell eine Lücke erfolgreich ausgenutzt hatte. War dies der Fall, wurde das Modell belohnt (Reinforcement Learning).
In diesen Spielumgebungen lernte das eingesetzte Modell, die sozialen Regeln zu „hacken“ und Strategien zu entwickeln, die technisch konform bleiben, während sie gleichzeitig die regulatorische Absicht unterlaufen.
Die Forscher stellten fest, dass das Modell erfolgreich war. Aus ethischen und Sicherheitsgründen wurden die jeweils gefundenen konkreten Strategien jedoch nicht veröffentlicht.
Kommentar: In Deutschland gibt es Bestrebungen, Gesetze und andere Regularien in standardisierter, elektronischer Form zu verfassen. Damit wird die Erstellung entsprechender Umgebungen deutlich vereinfacht, gesetzliche Schlupflöcher können deutlich leichter gefunden und ausgenutzt werden – wenn man das Geld hat, Modelle entsprechend einzusetzen.
URLs:
Presseberichte: