Mittwoch, Dezember 3, 2025
OpenAI beginnt mit der Erprobung einer neuen Sicherheitstechnik, welche KI-Systeme dazu ermutigt, zuzugeben, wenn sie gelogen, getäuscht oder Abkürzungen genommen haben.
„Geständnis“ bedeutet, dass das KI-System einen zweiten Textblock erzeugt, der auf die Hauptantwort eines KI-Modells auf eine Anfrage folgt und in dem das Modell selbst bewertet, wie gut es sich an seine Anweisungen gehalten hat. Dieses Vorgehen soll Forscher dabei unterstützen, die Funktionsweise aktueller KI-Modelle besser zu verstehen und Fehlverhalten in zukünftigen Versionen zu vermeiden.
Das jeweilige KI-Modell wird nur für Ehrlichkeit belohnt, Hilfreich oder Nützlichkeit als Vorgaben treten bei diesem Training dadurch in den Hintergrund, sodass die Wahrscheinlichkeit für entsprechende Antworten durch diese veränderte Gewichtung erhöht wird.
URLs:
Berichte dazu:
Reuters berichtete gestern, dass OpenAI im Urheber-Rechtsstreit unterlag und die Chatprotokolle (rund 20 Millionen Protokolle) den Klägern zur Verfügung stellen sollte. Die Kläger möchten anhand der Protokolle feststellen, dass ChatGPT ihre urheberrechtlichen Inhalte reproduzierte.
Die Protokolle werden anonymisiert zur Verfügung gestellt, da nur die Inhalte relevant sind und nicht, welche Personen was eingegeben haben. Daher spielt Datenschutz keine Rolle und darauf basierend kann die Herausgabe von OpenAI nicht verweigert werden.
Das BSI veröffentlichte am 2025-12-03 eine Presseerklärung zur sicheren Integration von KI in Operational Technology (OT): die US-amerikanische Cybersicherheitsbehörde CISA veröffentlichte Handlungsempfehlungen zur sicheren Integration künstlicher Intelligenz (KI) in Operational Technology (OT) bei kritischen Infrastrukturen – „Principles for the Secure Integration of Artificial Intelligence in Operational Technology“. Am englischsprachigen Leitfaden wirkten neun internationale Partnerbehörden mit, darunter auch unser deutsches Bundesamt für Sicherheit in der Informationstechnik. (Und daher wohl auch die Presseerklärung.)
Die Handlungsempfehlungen des Leitfadens konzentrieren sich auf Machine Learning (ML), Large Language Model (LLM) basierte KI sowie auf KI-Software-Agenten zur Integration der KI-Systeme. In der Presseerklärung des BSI wird direkt noch auf weitere in internationaler Kooperation erstellter Leitfäden hingewiesen, die thematisch dazu passen, z.B. SBOM for Cybersecurity (https://www.cisa.gov … s-sbom-cybersecurity), aber leider wurde gerade die sehr informative Hauptseite zu SBOM von CISA nicht verlinkt; wer sich für SBOM interessiert (interessieren muss 😉), dem empfehle ich auch einen Besuch der Webseite https://www.cisa.gov/sbom.
URLs:
Dienstag, Dezember 2, 2025
Kanzlei Mishcon de Reya (GB) nutzt einen KI-basierten Chatbot im Bewerbungsprozess, Reaktionen fallen sehr gemischt aus, teilweise war von “entmenschlichend” (”Whilst the experience can feel a little dehumanising, […]”) die Rede.
Daniel Lipman, Mishon Partner, meinte zu den Kommentaren im Interview: “Ich bin enttäuscht zu hören, dass einige Bewerber ihre Bewerbungserfahrung als unangenehm empfunden haben. Wir arbeiten sehr intensiv an unseren Einstellungsverfahren, um sicherzustellen, dass sie für die Bewerber gut funktionieren und allen die bestmögliche Gelegenheit bieten, uns kennenzulernen und uns die Möglichkeit geben, sie kennenzulernen. Wie die meisten großen Unternehmen setzen auch wir KI und andere Tools ein, um den Bewerbern die bestmögliche Erfahrung zu bieten und sicherzustellen, dass unsere Einstellungsverfahren fair und transparent sind.”
Die EU-Kommission eröffnete gestern die öffentliche Konsultation zum Entwurf des Durchführungsrechtsaktes für die Einrichtung und den Betrieb von KI-Reallaboren gemäß der Ki-Verordnung. Der Entwurf des Rechtsaktes umfasst nur 12 Seiten, 5 Seiten Erwägungsgründe, die restlichen Seiten enthalten die 10 Artikel des Rechtsaktes.
Der Entwurf liegt nur in englischer Sprache vor, Kommentierung kann grundsätzlich in allen Amtssprachen der EU erfolgen. Kommentierungsende ist 2026-01-06.
URLs:
