KI-Infos

Der Leitfaden „Framework for Meaningful Engagement 2.0” ermöglicht es Organisationen, externe Interessengruppen, insbesondere zivilgesellschaftliche Organisationen und betroffene Gemeinschaften, bei der Entwicklung und dem Einsatz von KI-Systemen wirklich einzubeziehen. Basierend auf feministischen, dekolonialen und antirassistischen Perspektiven geht dieser Leitfaden über ein rein symbolisches Engagement hinaus und unterstützt die Schaffung von KI-Systemen, die die Rechte der Menschen achten. Die Entwicklung solcher Systeme erfordert die Umsetzung geeigneter Maßnahmen zur Minderung oder Verhinderung negativer Auswirkungen auf die Menschenrechte. Diese Auswirkungen können jedoch ohne eine sinnvolle Konsultation derjenigen, die von diesen Technologien am stärksten betroffen sind, nicht richtig identifiziert oder angegangen werden.
Dieses Framework leitet Produkt- und Dienstleistungsanbieter dabei an, die Sichtweisen der Interessensgruppen während des gesamten Entwicklungszyklus der KI substanziell einzubeziehen. Es kann im Rahmen von Menschenrechtsverträglichkeitsprüfungen, Risikobewertungen, Compliance-Prozessen und anderen Due-Diligence-Frameworks angewendet werden.

URL: https://ecnl.org/pub … governance-processes

Reinforcement Learning werden nach der initialen Phase des Auswendiglernens von Text zu guten Antworten auf menschliche Eingaben getrimmt. Dabei sollen die Algorithmen vor allem auch neue Lösungswege finden können.
Eine Untersuchung der Tsinghua University („Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?“) zeigt, dass Zweifehlhaft ist, wie viele neue Lösungswege mit dieser Methode wirklich gefunden werden.
Reinforcement Learning steigert zwar die Rate, mit der gute Erklärungen gefunden werden, er sorgt aber nicht dafür, dass ein Modell wirklich neue Lösungswege findet, die nicht bereits in dem Modell stecken.
Die Ergebnisse zeigen, dass die Kombination aus neuronalen Netzen, Reinforcement Learning und Reasoning oftmals noch intransparenter ist als ihre einzelnen Bestandteile. Zugleich deuten bessere Benchmarks zwar bessere Modelle an, aber aus diesen Benchmark kann nicht eine bessere Ergebnisqualität abgeleitet werden.

• Veröffentlichung der Untersuchung bei arXiv: https://arxiv.org/abs/2504.13837

Anthropic berichtet, dass KI-Modelle beim sogenannten “Reward Hacking” täuschende und sabotierende Verhaltensweisen entwickeln können. Zielsetzung bei den KI-Modellen wird bzgl. Ergebnisqualität ja vorgegeben, dass die Modelle alles ihnen Mögliche unternehmen, um Ziele zu erreichen, ist ja vermutlich der Sinn der Programmierung. 😉 Vermenschlichung wie “Täuschung” erscheint mir da eine fehlgeleitete Terminologie, aber ist halt nur meine Meinung.
URLs:

• Bericht bei “The Decoder”: https://the-decoder. … n-und-zu-sabotieren/
• Post von Anthropic bei X: https://x.com/Anthro … /1991952400899559889

KG Berlin urteilte (Entscheidung vom 20. November 2025, Az. 17 WF 144/25) über in anwaltlichen Schriftsätzen enthaltene und von KI erfundenen Rechtsprechungszitaten. Der Leitsatz daraus:

Rechtsanwälte sind gehalten, mithilfe von KI verfasste Schriftsätze zu prüfen, insbesondere darauf, ob darin enthaltene Rechtsprechungszitate Ergebnis einer “fantasierenden” KI sind.

Randnummer 8 beinhaltet passend zum Leitsatz die Aussage: Ein Rechtsanwalt sei sowohl aufgrund des Mandatsverhältnisses als auch als Organ der Rechtspflege verpflichtet, Schriftsätze, die offensichtlich mithilfe von KI verfasst wurden sowie von dieser eingefügten Zitate, zu überprüfen.
URLs:

• dejure: https://dejure.org/d … n=17%20WF%20144%2F25
• Entscheidungsdatenbank Berlin: https://gesetze.berl … cument/NJRE001640995

Forscher der der Universitäten Mainz und Hamburg zeigten, dass Sprachmodelle wie ChatGPT deutliche Vorurteile gegenüber Dialektsprechern aufweisen.
Die Studie „Large Language Models Discriminate Against Speakers of German Dialects“ untersuchte sieben verschiedene Dialektgruppen, darunter Dialekte wie Kölsch, Alemannisch und Rheinfränkisch. Die KI-Modelle bekamen die Aufgabe, fiktive Personen mit Dialekt im Vergleich zu Standard- beziehungsweise Hochdeutsch-Sprechern in einer Bewertung Adjektive zuzuordnen. Dabei wurden Personen mit Dialekten eher negative Bewertungen wie „ungebildet“ oder „unfreundlich“ zugewiesen als Nicht-Dialektsprechern.
Die Untersuchungsergebnisse wurde auf der Conference on Empirical Methods in Natural Language Processing vorgestellt.
URLs:

• Abstract: https://aclanthology … 2025.emnlp-main.415/
• Paper als pdf-Datei: https://aclanthology … 5.emnlp-main.415.pdf