KI-Infos

Die spanische Agentur für die Überwachung von Künstlicher Intelligenz (Agencia Espaliota de Supervisión de Inteligencia Artificiat) veröffentlichte Richtlinien zum Umgang mit den Vorgaben der KI-Verordnung veröffentlicht.
Diese Richtlinien sollen die Umsetzung und Einhaltung der europäischen Vorschriften für künstliche Intelligenz und der damit verbundenen Verpflichtungen unterstützen. Obwohl sie nicht verbindlich sind und die geltenden Vorschriften weder ersetzen noch weiterentwickeln, enthält sie praktische Empfehlungen, die den regulatorischen Anforderungen entsprechen, bis die EU-Kommission harmonisierte Vorschriften für alle Mitgliedstaaten verabschiedet sind.
Die Dokumente unterliegen einer laufenden Bewertung und Überprüfung und werden regelmäßig entsprechend der Entwicklung von Normen und verschiedenen Leitlinien der Europäischen Kommission aktualisiert. Sie werden aktualisiert, sobald der Digital Omnibus zur Änderung des KI-Gesetzes verabschiedet ist
Die Leitfäden sind in verschiedene Abschnitte oder Blöcke unterteilt:

• Einführende Leitfäden: Leitfäden 01 und 02
• Technische Leitfäden: Leitfäden 03 bis 15
• Checkliste Benutzerhandbuch: Leitfaden 16

Alle Richtlinien sind in englischer Sprache auf der Webseite https://aesia.digital.gob.es/en/guides abrufbar.

Bei Bleeping Computer ist ein Bericht erschienen, wie gemini durch einen manipulierten Kalendereintrag dazu gebracht wurde, einem Angreifer Daten offenzulegen. Es wird ein Kalendereintrag verschickt, der für einen Menschen unbedenklich klingt, von gemini aber als Anweisung interpretiert wird.
Aktiviert wird der Angriff, wenn der reguläre Nutzer gemini anweist zu prüfen, ob  Terminkollisionen existieren. Gemini liest dann des manipulierten Eintrag und führt die Anweisung aus. Prompt injection bei KI ist natürlich kein neues Thema, aber bzgl. Angriffe über Kalendereinladungen sollte man Anwender sensibilisieren.
Beschreibung des Angriffs von Liad Eliyahu:

• https://www.miggo.io … ack-on-google-gemini

Presseberichte dazu:

• Bleeping Computer: https://www.bleeping … oogle-calendar-data/
• Diskussion bei reddit: https://www.reddit.c … into_leaking_google/
• Hacker News: https://thehackernew … -injection-flaw.html
• Deutschsprachiger Bericht bei t3n: https://t3n.de/news/ … eintrag-aus-1726136/

Die französische Datenschutz-Aufsichtsbehörde CNIL veröffentlichte am 5. Januar 2026 Hinweise zur Umsetzung der Transparenzvorgaben der Datenschutz-Grundverordnung (DS-GVO) im Kontext von KI-Modelltraining. Die englische Version (https://www.cnil.fr/ … ctification%2C%20etc) wurde der CNIL zur Verfügung gestellt, weswegen sie darauf verweist, dass bei Unstimmigkeiten immer die französische Version (https://www.cnil.fr/ … personnes-concernees) maßgebend ist.
In einer Art FAQ werden verschiedene Punkte abgearbeitet, z.B. wann die betroffene Person zu informieren ist oder welche Informationen zu geben sind.

Varonis berichtet über eine Sicherheitslücke in Microsoft Copilot, durch welches Copilot veranlasst werden kann, u.a. auch an Daten zu kommen. Sie nannten es “reprompt”: über den “q”-Parameter in einer URL werden Microsoft Copilot Promptbefehle erteilt, und dies kann von Angreifern zur Offenlegung von Daten genutzt werden.
Berichte:

• Varonis Blog: https://www.varonis.com/blog/reprompt
• Netzwoche: https://www.netzwoch … t-copilot-ins-visier
• Hacker News: https://thehackernew … reprompt-attack.html
• t3n (deutsch): https://t3n.de/news/ … soft-ki-aus-1725442/

Das Allianz Risk Barometer 2026 wurde veröffentlicht. Zur Erstellung wurden 3.338 Risikomanagement-Experten aus 97 Länder und Regionen befragt.
Weniger als die Hälfte der Befragten des Allianz Risk Barometers (44 %) glauben, dass KI ihrer Branche mehr Vorteile als Risiken bringen wird. Fast ein Fünftel (19 %) der Befragten gibt sogar an, dass sie mehr Risiken als Vorteile in der KI sehen.
Die Befragten weisen insbesondere auch auf Fehlinformationen und Desinformation als ein schnell wachsendes Risiko hin. Fortschritte in der generativen KI haben die Kosten für synthetische Medien, Deepfakes und automatisierte Überzeugungsarbeit drastisch gesenkt und deren Komplexität erhöht. Diese Entwicklungen bedrohen die politische Stabilität, das Vertrauen der Verbraucher, die Integrität von Marken und sogar das Verhalten der Finanzmärkte. 
In der gesamten Umfrage weisen die Befragten auf drei Hauptkategorien von KI-Risiken hin:

1. Operative Risiken: Betriebsunterbrechungen, ausgefallene oder falsch ausgerichtete Systeme und Fehler, die sich durch automatisierte Arbeitsabläufe fortsetzen.
2. Rechtliche und Compliance-Risiken: Verstöße gegen neue Vorschriften, Haftung für schädliche KI-Ergebnisse und Sanktionen im Rahmen sich weiterentwickelnder Governance-Rahmenwerke.
3. Reputationsrisiken: Imageschäden im Zusammenhang mit Fehlinformationen, unethischer KI-Nutzung, Datenverstößen oder auf fehlerhaften, unrichtigen oder voreingenommenen KI-Aussagen beruhenden Entscheidungen, die Kunden oder Mitarbeiter betreffen.

URLs:

• Webseite Allianz Risk Barometer 2026: https://commercial.a … -risk-barometer.html
• Teilseite zu KI: https://commercial.a … rometer-2026-ai.html

Berichte zum Thema:

• Tagesschau mit Bericht zum Report: https://www.tagessch … iminalitaet-100.html
• Versicherungswirtschaft heute: https://versicherung … hleuniger-zu-werden/
• Watson: https://www.watson.c … ng-fuer-firmen-sieht
• FAZ: https://www.faz.net/ … ehmen-110818497.html

Ergänzung 2026-01-16:
Die Tagesschau berichtet als Risiko, dass KI bei Cyberkriminalität eingesetzt wird. Dies ist natürlich richtig. Aber dies steht nicht mit den Risiken in Zusammenhang, die KI auf Platz 2 in der Liste brachten. Das Risiko der Cyberkrimininalität inklusive des Risikos der Nutzung von KI dabei steht auf Platz 1 der Liste. Siehe https://commercial.a … cyber-incidents.html