42 Generalstaatsanwält:innen der USA versandten einen offenen Brief an, in dem sie Unternehmen wie Microsoft, OpenAI, Google, Anthropic, Apple, Chai AI, Character Technologies, Luka, Meta, Nomi AI, Perplexity AI, Replika und xAI auffordern, eine Reihe neuer interner Sicherheitsvorkehrungen zum Schutz ihrer Nutzer zu implementieren.
Zu diesen Sicherheitsvorkehrungen gehören transparente Audits großer Sprachmodelle durch Dritte, die nach Anzeichen für wahnhafte oder unterwürfige Vorstellungen suchen, sowie neue Verfahren zur Meldung von Vorfällen, mit denen Nutzer benachrichtigt werden, wenn Chatbots psychologisch schädliche Ergebnisse liefern. Diese Dritten, zu denen auch akademische und zivilgesellschaftliche Gruppen gehören könnten, sollten „Systeme vor ihrer Veröffentlichung ohne Vergeltungsmaßnahmen bewerten und ihre Ergebnisse ohne vorherige Genehmigung des Unternehmens veröffentlichen dürfen“, heißt es in dem Brief.
URLs:
- Brief: https://www.iowaatto … m_source=govdelivery
- Berichte:
- Pennsylvania Office of Attorney General: https://www.attorney … eractions-with-bots/
- Techcrunch: https://techcrunch.c … -delusional-outputs/
- t3n: https://t3n.de/news/ … -verbessern-1721166/
- o heise online: https://www.heise.de … machen-11112087.html