OpenAI arbeitet kontinuierlich daran, seinen Atlas-KI-Browser gegen Cyberangriffe zu sichern. Das Unternehmen räumt aber ein, dass Prompt-Injections, bei dem KI-Agenten dazu manipuliert werden, böswillige Anweisungen auszuführen und die oft in Webseiten oder E-Mails versteckt sind, ein Risiko darstellen, das so schnell nicht verschwinden wird.
„Prompt Injection wird, ähnlich wie Betrug und Social Engineering im Web, wahrscheinlich nie vollständig ‚gelöst‘ werden können“, schrieb OpenAI in einem Blogbeitrag vom 2025-12-22. Mit der Einschätzung steht OpenAI nicht alleine da: Das britische National Cyber Security Centre (NCSC) warnte Anfang Dezember, dass Prompt-Injection-Angriffe auf generative KI-Anwendungen „möglicherweise nie vollständig verhindert werden können“ und Websites dem Risiko von Datenverstößen aussetzen.
URLs:
- Blogbeitrag OpenAI: https://openai.com/i … st-prompt-injection/
- Blogbeitrag NCSC: https://www.ncsc.gov … large-scale-breaches
- Bericht bei techcrunch: https://techcrunch.c … t-injection-attacks/