Forscher der Stanford Universität analysierten die Datenschutzrichtlinien von sechs US-amerikanischen KI-Unternehmen, um zu verstehen, wie diese Unternehmen die Chats ihrer Nutzer zum Trainieren von Modellen nutzen. Diese sechs Unternehmen waren:
- Amazon (Nova),
- Anthropic (Claude),
- Google (Gemini),
- Meta (Meta AI),
- Microsoft (Copilot) und
- OpenAI (ChatGPT).
Ausgehend vom California Consumer Privacy Act entwickelten die Forscher ein qualitatives Kodierungsschema, welches sie auf die jeweiligen Datenschutzrichtlinien der Unternehmen anwendeten, um die Praktiken der Datenerhebung und -nutzung bei den sechs Unternehmen zu vergleichen.
Dabei wurde festgestellt, dass alle sechs Unternehmen sich in ihren Nutzungsrichtlinien vorbehalten, dass sie die Chat-Daten ihrer Nutzer standardmäßig zum Trainieren und Verbessern ihrer Modelle nutzen und einige dieser Daten auf unbestimmte Zeit speichern dürfen. Die Unternehmen können also in Chats offengelegte personenbezogene Daten erheben und zum Trainieren verwenden, darunter sensible Informationen wie biometrische und Gesundheitsdaten sowie von Nutzern hochgeladene Dateien.
Vier der sechs von uns untersuchten Unternehmen behalten sich sogar vor, Chat-Daten von Kindern sowie Kundendaten aus anderen IT-Produkten, auf die sie Zugriff haben, für das Modelltraining zu verwenden.
In der Regel fehlen in den Datenschutzrichtlinien der sechs untersuchten KI-Unternehmen wichtige Informationen zu ihren Vorgehensweisen, sodass eine Transparenz der Nutzung nicht gegeben ist. eine Rechenschaftspflicht bzgl. der Nutzung nicht erfüllbar ist.
URLs:
- Forschungsbericht bei arXiv: https://arxiv.org/abs/2509.05382
- Stanford Report: https://news.stanfor … cerns-risks-research
- Bericht bei Stanford Institute for Human-Centered AI (HAI): https://hai.stanford … tell-your-ai-chatbot