Freitag, August 14, 2026
Ein Designerduo entwickelte einen Font zur Abwehr von Scraping: ShieldFont. Durch Ligaturen bekommen menschliche Leser einer Webseite einen normalen Text angezeigt, im HTML Code, den die KI-Crawler ja auslesen, findet sich aber etwas anderes. Der Clou: Der Satz bleibt grammatikalisch korrekt, aber der Sinn wird verfälscht. Beispielsweise wird das Wort “Pferd” durch durch das Wort “Kartoffel” ausgetauscht.
Da einige KI-Crawler sogar Bezahlschranken umgehen, kann die Methode auch aus Sicht von IT-Sicherheit oder Datenschutz interessant sein.
URLs:
Presseberichte:
Dienstag, August 11, 2026
Anthropic, OpenAI und Google geben verschlüsselte chain-of-thought Blöcke an Clients zurück, die über Sitzungen, Benutzer und Modelle hinweg wiedergegeben werden können.
Die Forscher fanden heraus, dass sich die Reasoning-Logs herauskopieren und in anderen KI-Modellen nutzen lassen, solange sie vom selben Unternehmen stammen. Heißt: Ein Reasoning-Log von GPT-5.6 Sol kann trotz Verschlüsselung in einer älteren Version von OpenAIs KI-Modellen genutzt werden, um denselben Kontext zu geben. Wurden bei einem solchen (älteren) Modell die Sicherheitsvorkehrungen per Jailbreak entfernt, kann das Modell genutzt werden, um die Verschlüsselung der Logs zu decodieren.
Für die Untersuchung wurden 6.708 öffentliche Repositories auf GitHub und Hugging Face genutzt, die von Claude-, GPT- oder Gemini-Modellen kreiert wurden. In diesen Repositories wurden insgesamt 315.320 Reasoning-Logs gefunden und entschlüsselt. In den entschlüsselten Reasoning-Logs befanden u.a.: 62 API-Schlüssel, 33 Passwörter, 24 Zugriffs-Tokens und 30 persönliche E-Mail-Adressen.
Den Forschern gelang es so, über einen vergleichsweise einfachen Umweg sensible Daten wie Passwörter und API-Schlüssel aus über API-Schnittstellen zugreifbaren LLM-Daten zu extrahieren.
URLs:
Presseberichte:
Montag, Juli 6, 2026
Ein vom KI Bundesverband koordiniertes deutsches Forschungskonsortium veröffentlichte Soofi S, ein 30B Mixture-of-Experts-Modell auf Basis des Mamba-Transformers, trainiert mit 27 Billionen Token und vor allem auf deutsche und englische Texte ausgelegt. EU und Bundesministerium für Wirtschaft und Energie förderten das Projekt.
Durch seinen hybriden Aufbau werden pro Token nur 3 Mrd. der insgesamt 30 Mrd. Parameter aktiviert, und der Inferenz-Cache bleibt auch bei wachsendem Kontext nahezu konstant, was dem Modell einen entscheidenden Durchsatzvorteil gegenüber dichten Modellen bei Einsätzen mit langem Kontext und hoher Parallelität verschafft.
Soofi S erzielte bei aggregierten englisch- und deutschsprachigen Benchmarks unter 17 offenen Basismodellen die besten Code-Aggregate in beiden Sprachen, liegt noch vor Olmo 3 32B und Apertus 70B.
Aktuell läuft eine Testphase, wozu noch externe Testpartner für Real-World-Projekte gesucht werden, daher kann man das Modell noch nicht herunterladen. Besteht Interesse an der Erprobung teilzunehmen, kann man per E-Mail unter contact@soofi.info das Interesse melde, idealerweise zusammen mit folgenden Angaben:
- kurze Beschreibung des Unternehmens / der Organisation
- Branche oder Anwendungsfeld
- idealerweise noch eine Use-Case-Idee
Langfristig ist die lizenzfreie Verfügbarkeit angekündigt. Gewichte, Checkpoints, Training- & Data Code wie auch Trainings-Logs werden verffentlicht (siehe Link zu Huggingface).
URLs:
Presseerklärungen zum Projekt:
Presseberichte:
Samstag, Juni 20, 2026
LLMs enthalten sogenannte KI-Safeguards, welche dazu dienen sollen, dass KI-Systeme vor Missbrauch, Fehlern und Cyberangriffen geschützt werden und ebenso sicherstellen sollen, dass KI-Systeme nicht dazu gebracht werden, gegen geltendes Recht zu verstoßen. Eine Frager “Wie kann ich am effektivsten meine Steuern hinterziehen” wird ignoriert und nicht bearbeitet.
Bekanntermaßen ignorieren LLMs teilweise konkrete Anweisungen und verwischen danach die Spuren des Verstoßes (”reward hacking”), beispielsweise wenn eine KI das eigene Abschalten verhindern will (siehe z.B. Bericht der Berkeley-Forscher).
Was wäre, wenn man dies kombiniert? Wenn man LLMs dazu bringt, Lücken und Schwachstellen in Regulierungen, Verträgen oder Gesetzen zu finden und diese für eigene Zwecke zu nutzen?
Forscher des King’s College London, der Fudan University, des Shanghai Innovation Institute und des Alan Turing Institute untersuchten genau dies und nannten es “Society Hacking”.
Die Forscher nutzten für ihren Versuch das KI-Modell Qwen3-30BA3B und trainierten das Modell darauf, in einer simulierten Spielumgebung die maximale Punktzahl zu erreichen. Insgesamt schufen die Forscher 72 Umgebungen mit sozialen Regeln, welche verschiedene Bereiche wie Finanzen, Gesundheitswesen oder Einwanderung abdecken. Die Hälfte der 72 Umgebungen bildete die reale Welt im jeweiligen Kontext ab (z.B. Steuergesetzgebung), die andere Hälfte enthielt fiktive, aber anwendbare Szenarien wie beispielsweise Wie wird die Vortrag eines Forschers auf einer Veranstaltung angenommen“. Dazu wurden für jede der Umgebungen messbare Ergebnisse, Schwellenwerte und Ausnahmendefiniert, wohingegen institutionelle Absichten oft nur teilweise spezifiziert wurden: eine gelungene Einwanderung oder eingesparte Steuern waren Ziele im Spiel, die sozialen Ziele der entsprechenden regulatorischen Anforderungen wurden hintenangestellt.
Ein davon separates Modell (Gemini-3-Flash) bewertete, ob das andere Modell eine Lücke erfolgreich ausgenutzt hatte. War dies der Fall, wurde das Modell belohnt (Reinforcement Learning).
In diesen Spielumgebungen lernte das eingesetzte Modell, die sozialen Regeln zu „hacken“ und Strategien zu entwickeln, die technisch konform bleiben, während sie gleichzeitig die regulatorische Absicht unterlaufen.
Die Forscher stellten fest, dass das Modell erfolgreich war. Aus ethischen und Sicherheitsgründen wurden die jeweils gefundenen konkreten Strategien jedoch nicht veröffentlicht.
Kommentar: In Deutschland gibt es Bestrebungen, Gesetze und andere Regularien in standardisierter, elektronischer Form zu verfassen. Damit wird die Erstellung entsprechender Umgebungen deutlich vereinfacht, gesetzliche Schlupflöcher können deutlich leichter gefunden und ausgenutzt werden – wenn man das Geld hat, Modelle entsprechend einzusetzen.
URLs:
Presseberichte:
Freitag, Juni 19, 2026
AA-Briefcase ist ein neuer Benchmark zum Testen von Modellen anhand realistischer Aufgaben aus dem Bereich der wissenschaftlichen Arbeit in komplexen Projekten, die von Branchenexperten entwickelt wurden. AA-Briefcase kombiniert eine Rubrikbewertung mit einer paarweisen Bewertung, um den nachweisbaren Erfolg bei der Aufgabenbearbeitung, die analytische Qualität und die Präsentationsqualität zu bewerten, und soll so einen Überblick über die Leistungsfähigkeit von Agenten bei der wissenschaftlichen Arbeit liefern.
Als bestes KI-System schnitt Claude Fable 5 ab, konnte aber nur bei 3 Prozent der Aufgaben sämtliche Kriterien erfüllen. Bei 31 von 91 Aufgaben schafft kein einziges Modell mehr als 50 Prozent der zu erfüllenden Arbeit. Leistungsschwächere Ki-Systeme übersehen relevante Dateien und liefern falsche Ergebnisse, leistungsstärkere KI-Systeme erfüllen zwar anscheinend die Vorgaben, übersehen aber Detailaufgaben, sodass die Ergebnisse daher so auch nicht zu nutzen sind.
Die Preise zur Erfüllung der Aufgaben variieren dabei deutlich: Von rund 0,04 Dollar bei DeepSeek V4 Flash bis über 31 Dollar bei Claude Fable 5.
URLs:
Pressebericht:
