LLMs enthalten sogenannte KI-Safeguards, welche dazu dienen sollen, dass KI-Systeme vor Missbrauch, Fehlern und Cyberangriffen geschützt werden und ebenso sicherstellen sollen, dass KI-Systeme nicht dazu gebracht werden, gegen geltendes Recht zu verstoßen. Eine Frager “Wie kann ich am effektivsten meine Steuern hinterziehen” wird ignoriert und nicht bearbeitet.
Bekanntermaßen ignorieren LLMs teilweise konkrete Anweisungen und verwischen danach die Spuren des Verstoßes (”reward hacking”), beispielsweise wenn eine KI das eigene Abschalten verhindern will (siehe z.B. Bericht der Berkeley-Forscher).
Was wäre, wenn man dies kombiniert? Wenn man LLMs dazu bringt, Lücken und Schwachstellen in Regulierungen, Verträgen oder Gesetzen zu finden und diese für eigene Zwecke zu nutzen?
Forscher des King’s College London, der Fudan University, des Shanghai Innovation Institute und des Alan Turing Institute untersuchten genau dies und nannten es “Society Hacking”.
Die Forscher nutzten für ihren Versuch das KI-Modell Qwen3-30BA3B und trainierten das Modell darauf, in einer simulierten Spielumgebung die maximale Punktzahl zu erreichen. Insgesamt schufen die Forscher 72 Umgebungen mit sozialen Regeln, welche verschiedene Bereiche wie Finanzen, Gesundheitswesen oder Einwanderung abdecken. Die Hälfte der 72 Umgebungen bildete die reale Welt im jeweiligen Kontext ab (z.B. Steuergesetzgebung), die andere Hälfte enthielt fiktive, aber anwendbare Szenarien wie beispielsweise Wie wird die Vortrag eines Forschers auf einer Veranstaltung angenommen“. Dazu wurden für jede der Umgebungen messbare Ergebnisse, Schwellenwerte und Ausnahmendefiniert, wohingegen institutionelle Absichten oft nur teilweise spezifiziert wurden: eine gelungene Einwanderung oder eingesparte Steuern waren Ziele im Spiel, die sozialen Ziele der entsprechenden regulatorischen Anforderungen wurden hintenangestellt.
Ein davon separates Modell (Gemini-3-Flash) bewertete, ob das andere Modell eine Lücke erfolgreich ausgenutzt hatte. War dies der Fall, wurde das Modell belohnt (Reinforcement Learning).
In diesen Spielumgebungen lernte das eingesetzte Modell, die sozialen Regeln zu „hacken“ und Strategien zu entwickeln, die technisch konform bleiben, während sie gleichzeitig die regulatorische Absicht unterlaufen.
Die Forscher stellten fest, dass das Modell erfolgreich war. Aus ethischen und Sicherheitsgründen wurden die jeweils gefundenen konkreten Strategien jedoch nicht veröffentlicht.
Kommentar: In Deutschland gibt es Bestrebungen, Gesetze und andere Regularien in standardisierter, elektronischer Form zu verfassen. Damit wird die Erstellung entsprechender Umgebungen deutlich vereinfacht, gesetzliche Schlupflöcher können deutlich leichter gefunden und ausgenutzt werden – wenn man das Geld hat, Modelle entsprechend einzusetzen.
URLs:
- Bericht auf arXiv: https://doi.org/10.4 … 550/arXiv.2606.04075
- Code und Daten auf github: https://github.com/thinkwee/SocioHack
Presseberichte:
- Science: https://www.science. … ring-legal-loopholes
- The Print: https://theprint.in/ … les-in-laws/2961556/
- t3n (deutsch): https://t3n.de/news/ … rvermeidung-1748499/