KI-Infos

In einem Beitrag wird darauf eingegangen, dass KI Gefälligkeitsstudien erleichtert. Gefälligkeitsstudien sind insbesondere im medizinischen Umfeld nichts Neues, Pharmafirmen nutzen diese Methode schon länger zum Marketing. Aber mit KI können diese schneller erstellt werden und aktuell sind in den Publikationen viel zu viele zu finden, die zurückgerufen werden müssen. Auch im Umfeld der Informatik gibt es ja genügend Berichte über KI-generierte Arbeiten. Die Autoren fordern einen besseren Peer-Review-Mechanismus als heute.
Der Beitrag ist unter https://the-decoder. … n-zum-massenprodukt/ zu finden.

Die Allianz für Cyber-Sicherheit (https://www.allianz- … -cybersicherheit.de/) veröffentlichte einen “Leitfaden für Penetrationstests von Large Language Modellen (LLMs)”. welcher unter Beteiligung des BSI erstellt wurde. Es wird natürlichg bzgl Durchführung eines Penetrationstest vieles geschrieben, was 1:1 auch auf andere Szenarien als LLM-Test zutrifft. Aber es werden auch LLM-spezifische Besonderheiten erwähnt,, z.B. enthält Anhang 6LLM-spezifische Risikoszenarien.
URL:

• Seite des Leitfadens selbst: https://www.allianz- … enkreis_KI_LLMs.html
• Download pdf-Datei: https://www.allianz- … =publicationFile&v=4

Chinesische Forscher fanden heraus, dass mit nur 78 sorgfältig ausgewählten Trainingssamples trainierte KI-Systeme, die als autonome Agenten agieren, eine Leistung von 73,5 Prozent auf einem Agency-Benchmark erreichen, aktuellen Open-Weight-Modelle wie beispielsweise Deepseek-V3.1 oder Qwen3 jedoch deutlich schlechter abschneiden. Bei den Hype um KI-Agenten könnte die Arbeit ja für die eine oder den anderen von Interesse sein.

• Xiao et al. “LIMI: Less is More for Agency”, https://arxiv.org/abs/2509.17567

Für die europäischen Behörden ist der Europäische Datenschutzbeauftragte entsprechend Art. 3 Ziff. 48 und Art. 70 Abs. 9 KI-Verordnung die Funktion der Marktüberwachungsbehörde sowie die der für ihre Beaufsichtigung zuständigen Behörde.
Aktuell veröffentlichte der EDPS eine Stellungname zur menschlichen Aufsicht bei KI: “Human Oversight of Automated Decision-Making”.
In dieser Stellungnahme wird die Sicht des EDPS auf Annahmen eingegangen, die teilweise öffentlich zu dem Themen kursieren und die aus Sicht des EDPS fehlerhaft sind. Die Stellungnahme enthält organisatorische, technische und auf die Bediener ausgerichtete Maßnahmen, um die menschliche Aufsicht aus Sicht des EDPS sinnvoll und wirksam zu gestalten. Er weist ausdrücklich darauf hin, dass inhärente Mängel im KI-System (z.B. aufgrund Unzuverlässigkeit) alleine durch menschliche Aufsicht nicht ausgeglichen werden können. Daher darf man sich nicht nur auf menschliche Aufsicht als letzte Sicherheitsvorkehrung gegenüber Fehler eines KI-Systems verlassen.
Der vollständige englischsprachige Text ist abrufbar unter https://www.edps.eur … -automated-making_en bzw. als pdf-Datei unter https://www.edps.eur … man-oversight_en.pdf.

In beck aktuell ist ein Artikel zur Grundrechte-Folgenabschätzung nach KI-Verordnung veröffentlicht worden. Ist eher eine Einführung ins Thema, aber vielleicht trotzdem von Interesse: https://rsw.beck.de/ … hrisiko-ki-grfa-fria