Anthropic, OpenAI und Google geben verschlüsselte chain-of-thought Blöcke an Clients zurück, die über Sitzungen, Benutzer und Modelle hinweg wiedergegeben werden können.
Die Forscher fanden heraus, dass sich die Reasoning-Logs herauskopieren und in anderen KI-Modellen nutzen lassen, solange sie vom selben Unternehmen stammen. Heißt: Ein Reasoning-Log von GPT-5.6 Sol kann trotz Verschlüsselung in einer älteren Version von OpenAIs KI-Modellen genutzt werden, um denselben Kontext zu geben. Wurden bei einem solchen (älteren) Modell die Sicherheitsvorkehrungen per Jailbreak entfernt, kann das Modell genutzt werden, um die Verschlüsselung der Logs zu decodieren.
Für die Untersuchung wurden 6.708 öffentliche Repositories auf GitHub und Hugging Face genutzt, die von Claude-, GPT- oder Gemini-Modellen kreiert wurden. In diesen Repositories wurden insgesamt 315.320 Reasoning-Logs gefunden und entschlüsselt. In den entschlüsselten Reasoning-Logs befanden u.a.: 62 API-Schlüssel, 33 Passwörter, 24 Zugriffs-Tokens und 30 persönliche E-Mail-Adressen.
Den Forschern gelang es so, über einen vergleichsweise einfachen Umweg sensible Daten wie Passwörter und API-Schlüssel aus über API-Schnittstellen zugreifbaren LLM-Daten zu extrahieren.
URLs:
- Forschungsbericht auf arXiv: https://arxiv.org/abs/2608.09867
- Projekt-Homepage: https://stolen-thoughts.com/
- Beispiel, bereitgestellt im Blog von Simon Willison: [https://simonwillis … soning-traces//url]
Presseberichte: