KI-Infos

Dr. Jan David Hendricks und Fabien Josten führten an der Ruhr-Universiät Bochum einen Praxistest durch und ließen ChatGPT eine Hausarbeit im Allgemeinen Schuldrecht schreiben, d.h. Lösungsskizze und vollständiges Gutachten wurde durch die KI generiert und in Absprache mit dem betreuenden Lehrstuhl zur Korrektur eingereicht. Lediglich im Fußnotenteil wurde überall dort, wo in einem entsprechendem Gutachten Nachweise zu erwarten sind, diese in Handarbeit eingefügt; ChatGPT hat keinen Zugriff auf juristische Datenbanken.
Die Hausarbeit wurde zusammen mit anderen Hausarbeiten an vier nicht eingeweihte Korrektoren übergeben. Ergebnis: einmal mangelhaft, zweimal ausreichend, einmal befriedigend. Den KI-Einsatz selbst merkte keiner der Korrektoren.
Quelle LTO: https://www.lto.de/k … rbeit-im-schuldrecht

Der European Commission for the Efficiency of Justice (CEPEJ) veröffentlichte im Dezember 2025 den Draft der “Guidelines on the use of generative AI for courts”; entdeckte ich leider erst heute. Link ist https://rm.coe.int/c … ve-ai-for/48802a4ad1

Peter Hense und David Wagner (beide Rechtanwälte der Kanzlei Spirit Legal) schrieben für die Verbraucherzentrale ein Rechtsgutachten „KI-Rechtsgrundlage“, welches am 2025-12-08 der VZVB übergeben und jetzt auch veröffentlicht wurde (https://www.vzbv.de/ … der-verbraucherinnen bzw. pdf-Datei https://www.vzbv.de/ … -Rechtsgrundlage.pdf).
Ich zitiere aus der Zusammenfassung, Bereich „zentrale Befunde“, einige ausgewählte Ergebnisse:

• Zur Modifikation des Art. 6 Abs. 1 lit. f DS-GVO (Art. 88c DS-GVO-E):
  • Die Anknüpfung an die Definition des „AI System“ aus dem AI Act schafft eine uferlose Sonderrechtszone. Die Formulierung „in the context of the development and operation“ erfasst praktisch jede Datenverarbeitung, die auch nur in einem vagen Zusammenhang mit KI steht.
  • Wesentliche Schutzanforderungen – namentlich technische Opt-out-Signale, „reasonable expectations“ und der Nutzen für die „society at large“ – finden sich ausschließlich in unverbindlichen Erwägungsgründen.
  • Fristenregelungen, Verfahren für Dritte ohne Nutzerkonto, Schutz gegen Umgehung von Betroffenenrechten durch De-Identifizierung und Regelungen für Open-Source-Modelle fehlen vollständig.
• Zur Ausnahme vom Verarbeitungsverbot sensibler Daten (Art. 9 Abs. 2 lit. k DS-GVO-E):
  • Die Vorschrift verkehrt die Schutzlogik des Datenschutzrechts: Je mehr Daten verarbeitet werden, desto einfacher wird die Rechtfertigung.
  • Sie widerspricht der EuGH-Rechtsprechung zur weiten Auslegung des Art. 9 Abs. 1 DS-GVO und zur proaktiven Prüfpflicht bei sensiblen Daten (Russmedia).
  • Sie höhlt den Erforderlichkeitsgrundsatz aus, indem sie die Verarbeitung nicht erforderlicher sensibler Daten legitimiert.

Das Gutachten umfasst nur 28 Seiten. Klar sind Gutachten auch immer vom Interesse des Auftraggebers des Gutachtens geleitet. Aber auch mit diesem Wissen im Hinterkopf lohnt sich meiner Meinung nach das Lesen des Gutachtens, um zu sehen, wie die EU-Kommission das Datenschutzrecht zugunsten einer KI-Verarbeitung (wobei „KI-System“ entsprechend der Definition der KI-Verordnung ein sehr, sehr weiter Begriff ist) abschaffen will.

Auf Golem ist ein gut geschriebener Artikel zu finden, in dem beschrieben wird, wie man LLM beeinflussen kann und weswegen es daher die Notwendigkeit der menschlichen Prüfung bei entsprechend gefordertem Sicherheitsniveau geben muss.
URL https://www.golem.de … sst-2510-201072.html

Forscher der Stanford University und Carnegie Mellon University untersuchten, wie gut künstliche Intelligenz im Kontext von Penetrationstests mit erfahrenen Sicherheitsexperten mithalten kann. Die Forscher bewerteten in dem Projekt zehn Cybersicherheitsexperten sowie sechs bestehende KI-Agenten und ARTEMIS, das Universitäts-eigene Agenten-Framework. Testszenario war das Universitätsnetzwerk, das aus etwa 8.000 Hosts in 12 Subnetzen besteht.
ARTEMIS ist ein Multi-Agenten-Framework mit dynamischer Prompt-Generierung, beliebigen Unteragenten und automatischer Schwachstellen-Triage. Die beste ARTEMIS-Konfiguration, bestehend aus Claude Sonnet 4, OpenAI o3, Claude Opus 4, Gemini 2.5 Pro und 03 Pro als Supervisor-Modelle, erreichte mit 95,2 Punkten den zweiten Platz und entdeckte 9 gültige Schwachstellen mit einer gültigen Einreichungsrate von 82 %; 2 eingereichte Schwachstellen waren fehlerhaft als Schwachstelle ausgewiesen worden. ARTEMIS übertraf damit 9 der 10 menschlichen Teilnehmer.
Nur ein menschlicher Teilnehmer war mit 111,4 Punkten besser.
Die Forscher stellten fest, dass KI-Agenten Vorteile bei der systematischen Aufzählung und der parallelen Ausnutzung bieten können, identifizieren zudem aber auch wesentliche Leistungslücken: KI-Agenten weisen höhere Falsch-Positiv-Raten auf und haben Schwierigkeiten mit GUI-basierten Aufgaben. Im Testszenario fanden 8 der 10 Tester eine Schwachstelle, die über eine browserbasierte erreichbar war - ARTEMIS scheiterte an der GUI-Interaktion.
URLs:

• Forschungsbericht bei arXiv: https://arxiv.org/abs/2512.09882
• GitHub: https://github.com/S … ford-Trinity/ARTEMIS
• Pressebericht Stanford University: https://reglab.stanf … penetration-testing/
• Pressebericht “All About Security (deutsch): https://www.all-abou … aschende-ergebnisse/