KI-Infos

Aufbauend auf den multimodalen Modellen von Gemini entwickeln Forscher mehrere Modelle innerhalb der neuen Med-Gemini-Familie, welche die Kernfunktionen von Gemini übernehmen und durch Feinabstimmung mit 2D- und 3D-Radiologie-, Histopathologie-, Ophthalmologie-, Dermatologie- und Genomdaten für den medizinischen Einsatz optimiert wurden. Laut den Forschern soll Med-Gemini-2D einen neuen Standard für die Erstellung von KI-basierten Röntgenbefunden (CXR) auf Grundlage von Expertenbewertungen setzen und und würde die bisherigen besten Ergebnisse in zwei separaten Datensätzen um 1 % bzw. 12 % übertreffen. Bericht dazu unter https://arxiv.org/abs/2405.03162

Soweit, so gut. În einem Bericht zu Med-Gemini-2D (pdf-Datei unter https://arxiv.org/pdf/2405.03162) findet sich in dem Bericht “old left basilar ganglia infarct” - die Struktur gibt es im menschlichen Körper nicht: Med-Gemini kombinierte zwei medizinische Begriffe (Basalganglien und Basiliaris) zu einer erfundenen anatomischen Struktur. Und die Forscher veröffentlichten den Bericht ohne Kontrolle der KI-Angaben.
Wieder mal ein Zeugnis: Keinen KI-Output ohne sehr, sehr sorgfältige Kontrolle übernehmen.

Berichte hierzu unter:

• OECD: https://oecd.ai/en/i … ents/2025-08-04-ee5e
• Golem: Golem:
• Futurezine: https://futurezone.a … gehirnscan/403067064
• The Verge: https://www.theverge … r-typo-hallucination

OpenAI arbeitet kontinuierlich daran, seinen Atlas-KI-Browser gegen Cyberangriffe zu sichern. Das Unternehmen räumt aber ein, dass Prompt-Injections, bei dem KI-Agenten dazu manipuliert werden, böswillige Anweisungen auszuführen und die oft in Webseiten oder E-Mails versteckt sind, ein Risiko darstellen, das so schnell nicht verschwinden wird.
„Prompt Injection wird, ähnlich wie Betrug und Social Engineering im Web, wahrscheinlich nie vollständig ‚gelöst‘ werden können“, schrieb OpenAI in einem Blogbeitrag vom 2025-12-22. Mit der Einschätzung steht OpenAI nicht alleine da: Das britische National Cyber Security Centre (NCSC) warnte Anfang Dezember, dass Prompt-Injection-Angriffe auf generative KI-Anwendungen „möglicherweise nie vollständig verhindert werden können“ und Websites dem Risiko von Datenverstößen aussetzen.
URLs:

• Blogbeitrag OpenAI: https://openai.com/i … st-prompt-injection/
• Blogbeitrag NCSC: https://www.ncsc.gov … large-scale-breaches
• Bericht bei techcrunch: https://techcrunch.c … t-injection-attacks/

Forscher des Department of Data Analytics der Dalarna University untersuchten den Effekt, wenn KI Aufgaben an eine KI weitergibt. Dazu verwendeten sie zwei moderne KI-Modelle, von denen das eine Bilder beschreibt und das andere sie regeneriert. Ohne menschliche Interaktion wurde die Ergebnisse Ausgangsmaterial für die nächste Runde: Bild wurde erkannt, beschrieben und daraus eine Anweisung für das nächste Bild generiert.
Die Auswirkungen betreffen natürlich insbesondere auch neue KI-Modelle, da inzwischen KI-Modelle oft mit KI-generierten Inhalten trainiert werden. Aber bleiben selbstreferenzielle Schleifen unkontrolliert, so werden diese Systeme die in Datensätzen vorhandenen Verzerrungen und Redundanzen verstärken.
Eine Schlussfolgerung der Forscher lautet: Nur die Zusammenarbeit von Mensch mit der KI kann die Vielfalt und Überraschungen in der zunehmend maschinell generierten Kreativlandschaft gewährleisten.
URLs:

• Bericht in Zeitschrift Pattern: https://doi.org/10.1 … j.patter.2025.101451
• Code, Daten usw. bei OSF: https://doi.org/10.17605/OSF.IO/WGDQ4
• Deutschsprachiger Bericht in Zeitschrift CIO: https://www.cio.de/a … -ki-algorithmen.html

Forscher der University of Reading, der University of Leeds und der University of Lincoln entwickelten Trainingsverfahren, mit denen Menschen lernen sollen, KI-generierte Gesichter zu erkennen, indem Rendering-Artefakte durch die Menschen besser erkannt werden. Dabei gibt es “Super-Erkenner”, die eine deutlich bessere Erkennungsquote haben als andere Menschen und dabei Hinweise verwenden, die nichts mit Rendering-Artefakten zu tun haben.
der Forschungsbericht mit dem Titel “Training human super-recognizers’ detection and discrimination of AI-generated faces” ist bei der Royal Society Open Science unter https://royalsociety … nizers-detection-and abrufbar

Forscher der Universitäten New York University und Emory University untersuchten die Wirksamkeit des genAI-Einsatzes bei Werbung. Dabei wurden drei Ansätze untersucht: (1) von menschlichen Experten erstellte Anzeigen, (2) genAI-modifizierte Anzeigen, bei denen genAI die Entwürfe der Experten verbessert, und (3) von genAI erstellte Anzeigen, die vollständig von visueller genAI generiert werden.
In den drei Untersuchungen wurde festgestellt, dass von genAI erstellte Anzeigen durchweg besser abschneiden als sowohl von Menschen erstellte als auch von genAI modifizierte Anzeigen und die Klickraten in Feldversuchen um bis zu 19 % steigern.
Im Gegensatz dazu zeigen von genAI modifizierte Anzeigen keine signifikante Verbesserung gegenüber den von Menschen erstellten Benchmarks.
Schließlich stellen die Forscher fest, dass die Offenlegung der Beteiligung von KI an der Anzeigengenerierung die Werbewirksamkeit um bis zu 31,5 % verringert, was die Wechselwirkungen im Zusammenhang mit sich entwickelnden Richtlinien zur Offenlegung von KI unterstreicht.
Quelle: Social Science Research Network (SSRN, Elsevier) https://papers.ssrn. … ?abstract_id=5638311.