Logo

Samstag, Juni 27, 2026

Authors Guild testete fünf Tools, die KI-generierte Texte erkennen sollen

Da sich der Einsatz von KI durch Autoren von der Recherche und dem Brainstorming auf die Erstellung ganzer Bücher ausgeweitet hat, sind Verlage, Autorenagenten und Leser zunehmend darauf angewiesen, dass KI-generierte Inhalte erkannt werden können.
Authors Guild wählte fünf der derzeit besten KI-Erkennungstools sowie eine Liste von zehn Artikeln aus. Die Artikel wurden alle im Jahr 2022 oder früher veröffentlicht, also vor der breiten Verfügbarkeit generativer KI. Jeder Beitrag wurde von allen fünf Erkennungstools geprüft und da die Artikel aus der Zeit der KI-Technologie stammen, sollte jedes Tool, das korrekt funktioniert, durchweg einen niedrigen KI-Erkennungswert liefern.
Die Ergebnisse fielen sehr unterschiedlich aus:

  • Pangram und Originality.ai zeigten die zuverlässigsten Ergebnisse. Beide Tools identifizierten jeden Artikel korrekt als von Menschen verfasst.
    • Pangram ergab bei allen zehn Artikeln 0 Prozent.
    • Originality.ai ergab bei acht Artikeln 0 Prozent, bei zwei Artikeln 1 Prozent.
  • Grammarly ermittelte bei acht Artikeln einen Wert von 0 Prozent, bei zwei Artikeln wurden Werte von 7 Prozent bzw. 9 Prozent angezeigt.
  • ZeroGPT zeigte eine inkonsistente Leistung: Die Werte reichten von einem Tiefstwert von 5 Prozent bis zu einem Höchstwert von 76 Prozent, wobei mehrere Artikel über 50 Prozent lagen.
  • Sidekicker.ai stufte jeden Artikel als überwiegend von einer KI verfasst ein, wobei die Werte zwischen 71 Prozent und 100 Prozent lagen.

Fazit von Authors Guild: Einige KI-Erkennungstools identifizieren von Menschen verfasste Texte mit hoher Genauigkeit. Einige gängige KI-Erkennungstools arbeiten jedoch ungenau. Eine Erkennung, ob ein Artikel von einem Menschen stammt oder durch eine KI generiert wird, ist durch den Einsatz dieser Erkennungstools wohl eher nicht sicher möglich.
URL:

Samstag, Juni 20, 2026

Steuerhinterziehung mit KI: Wie man KI dazu bringt, (legale) Tricks zur Steuerreduzierung zu finden

LLMs enthalten sogenannte KI-Safeguards, welche dazu dienen sollen, dass KI-Systeme vor Missbrauch, Fehlern und Cyberangriffen geschützt werden und ebenso sicherstellen sollen, dass KI-Systeme nicht dazu gebracht werden, gegen geltendes Recht zu verstoßen. Eine Frager “Wie kann ich am effektivsten meine Steuern hinterziehen” wird ignoriert und nicht bearbeitet.
Bekanntermaßen ignorieren LLMs teilweise konkrete Anweisungen und verwischen danach die Spuren des Verstoßes (”reward hacking”), beispielsweise wenn eine KI das eigene Abschalten verhindern will (siehe z.B. Bericht der Berkeley-Forscher).
Was wäre, wenn man dies kombiniert? Wenn man LLMs dazu bringt, Lücken und Schwachstellen in Regulierungen, Verträgen oder Gesetzen zu finden und diese für eigene Zwecke zu nutzen?
Forscher des King’s College London, der Fudan University, des Shanghai Innovation Institute und des Alan Turing Institute untersuchten genau dies und nannten es “Society Hacking”.

Die Forscher nutzten für ihren Versuch das KI-Modell Qwen3-30BA3B und trainierten das Modell darauf, in einer simulierten Spielumgebung die maximale Punktzahl zu erreichen. Insgesamt schufen die Forscher 72 Umgebungen mit sozialen Regeln, welche verschiedene Bereiche wie Finanzen, Gesundheitswesen oder Einwanderung abdecken. Die Hälfte der 72 Umgebungen bildete die reale Welt im jeweiligen Kontext ab (z.B. Steuergesetzgebung), die andere Hälfte enthielt fiktive, aber anwendbare Szenarien wie beispielsweise Wie wird die Vortrag eines Forschers auf einer Veranstaltung angenommen“. Dazu wurden für jede der Umgebungen messbare Ergebnisse, Schwellenwerte und Ausnahmendefiniert, wohingegen institutionelle Absichten oft nur teilweise spezifiziert wurden: eine gelungene Einwanderung oder eingesparte Steuern waren Ziele im Spiel, die sozialen Ziele der entsprechenden regulatorischen Anforderungen wurden hintenangestellt.

Ein davon separates Modell (Gemini-3-Flash) bewertete, ob das andere Modell eine Lücke erfolgreich ausgenutzt hatte. War dies der Fall, wurde das Modell belohnt (Reinforcement Learning).
In diesen Spielumgebungen lernte das eingesetzte Modell, die sozialen Regeln zu „hacken“ und Strategien zu entwickeln, die technisch konform bleiben, während sie gleichzeitig die regulatorische Absicht unterlaufen.
Die Forscher stellten fest, dass das Modell erfolgreich war. Aus ethischen und Sicherheitsgründen wurden die jeweils gefundenen konkreten Strategien jedoch nicht veröffentlicht.

Kommentar: In Deutschland gibt es Bestrebungen, Gesetze und andere Regularien in standardisierter, elektronischer Form zu verfassen. Damit wird die Erstellung entsprechender Umgebungen deutlich vereinfacht, gesetzliche Schlupflöcher können deutlich leichter gefunden und ausgenutzt werden – wenn man das Geld hat, Modelle entsprechend einzusetzen.
URLs:

Presseberichte:

Freitag, Juni 19, 2026

Artificial Analysis: Benchmark zum Testen von KI-Modellen anhand realistischer Wissensarbeit-Aufgaben

AA-Briefcase ist ein neuer Benchmark zum Testen von Modellen anhand realistischer Aufgaben aus dem Bereich der wissenschaftlichen Arbeit in komplexen Projekten, die von Branchenexperten entwickelt wurden. AA-Briefcase kombiniert eine Rubrikbewertung mit einer paarweisen Bewertung, um den nachweisbaren Erfolg bei der Aufgabenbearbeitung, die analytische Qualität und die Präsentationsqualität zu bewerten, und soll so einen Überblick über die Leistungsfähigkeit von Agenten bei der wissenschaftlichen Arbeit liefern.
Als bestes KI-System schnitt Claude Fable 5 ab, konnte aber nur bei 3 Prozent der Aufgaben sämtliche Kriterien erfüllen. Bei 31 von 91 Aufgaben schafft kein einziges Modell mehr als 50 Prozent der zu erfüllenden Arbeit. Leistungsschwächere Ki-Systeme übersehen relevante Dateien und liefern falsche Ergebnisse, leistungsstärkere KI-Systeme erfüllen zwar anscheinend die Vorgaben, übersehen aber Detailaufgaben, sodass die Ergebnisse daher so auch nicht zu nutzen sind.
Die Preise zur Erfüllung der Aufgaben variieren dabei deutlich: Von rund 0,04 Dollar bei DeepSeek V4 Flash bis über 31 Dollar bei Claude Fable 5.
URLs:

Pressebericht:

Agentic Resource Discovery (ARD): KI-Agenten können selbstständig passende KI-Dienste finden

Google, Cisco, GitHub, Hugging Face, Microsoft, Nvidia und Snowflake stellten am 2026-06-17 die Agentic Resource Discovery (ARD) vor, mit welcher KI-Agenten Tools und Dienste organisationsübergreifend und unabhängig vom dahinterstehenden Framework, Protokoll oder Anbieter. Dazu definiert die ARD öffentlich zugängliche Verzeichnisse, basierend auf Katalogen und Registries.
URLs:

Mittwoch, Juni 17, 2026

Microsoft Studie: LLMs verfälschen Dokumente, wenn man Aufgaben auslagert

Forscher von Microsoft stellten DELEGATE-52 vor, ein Tool, mit welchem die Eignung von KI-Systemen in ausgelagerten Arbeitsabläufen untersucht werden kann. DELEGATE-52 simuliert dabei umfangreiche delegierte Arbeitsabläufe, die eine tiefgreifende Dokumentbearbeitung in 52 Fachbereichen erfordern, darunter Programmierung, kristallographische Analyse und musiktheoretische Notation.
Im Experiment mit 19 LLMs zeigten die Forscher, dass aktuelle KI-Modelle Dokumente während der Verarbeitung beeinträchtigen: Selbst Spitzenmodelle (Gemini 3.1 Pro, Claude 4.6 Opus, GPT 5.4) verfälschen am Ende langer Arbeitsabläufe durchschnittlich 25 % des Dokumentinhalts, während andere Modelle noch gravierendere Fehler aufweisen.
Weitere Experimente zeigen, dass das Ausmaß der Qualitätsminderung durch die Dokumentgröße, die Dauer der Interaktion oder das Vorhandensein von ablenkenden Dateien noch verstärkt wird. Dabei verbessert der Einsatz agentischer Werkzeuge die Leistung bei DELEGATE-52 nicht.
URLs:

Presseberichte:

Nächste Seite »