Logo

Montag, März 16, 2026

OWASP veröffentlicht Top 10 der Angriffsszenarien für agentische KI

Das Open Worldwide Application Security Project (OWASP) veröffentlichte die “OWASP Top 10 for Agentic Applications 2026”, worin die die kritischsten Sicherheitsrisiken für autonome und agentische KI-Systeme benannt werden. Die Liste wurde - wie andere Listen von OWASP auch - in enger Zusammenarbeit mit mehr als 100 Branchenexperten, Forschern und Praktikern entwickelt und bietet praktische, umsetzbare Leitlinien, die Organisationen dabei unterstützen, KI-Agenten, welche in komplexen Arbeitsabläufen mehr oder weniger autonom planen, handeln und Entscheidungen treffen, sicher einzusetzen.

Die OWASP Agentic Skills Top 10 (AST10) listen die 10 kritischsten Sicherheitsrisiken im Bereich der agentischen KI-Fähigkeiten auf allen wichtigen KI-Agentenplattformen auf. Diese Fähigkeiten repräsentieren die Ausführungsebene, die Agenten reale Auswirkungen verschaffen: Es wird nicht nur definiert, auf welche Ressourcen Agenten zugreifen können, sondern auch, wie sie mehrstufige Arbeitsabläufe autonom koordinieren.

Linkliste zu den OWASP-Ressourcen:

Europa nutzt mehr KI als die USA – und fördert damit US-Unternehmen, die ihre Systeme damit verbessern

Der Bericht “State of AI in Europe: The Invisible Giant“, den Prosus und Dealroom.co veröffentlichten, zeigt einen Kontinent, der still und leise die Grundlagen für eine Führungsrolle im KI-Bereich geschaffen hat, während der Wert dieser Arbeit in die USA und zunehmend auch nach China fließt.
Erkenntnisse aus dem Bericht:

  • Die KI-Finanzierung in Europa erreichte 2025 einen Rekordwert von 21,8 Milliarden US-Dollar, was einem Anstieg von 58 % innerhalb eines einzigen Jahres entspricht.
  • Drei der zehn weltweit meistzitierten KI-Wissenschaftler sind Europäer.
  • Die 133 Millionen monatlichen LLM-Nutzer sind fast doppelt so viele wie in den USA.
  • Fast jedes KI-Modell, welches diese Nutzer verwenden, wurde in den USA oder China entwickelt.
  • Fast drei Viertel der Investoren, die Europas aufstrebende KI-Unternehmen unterstützen, sind Amerikaner. Der Kontinent bringt die Unternehmen hervor; jemand anderes besitzt sie.

Daraus leiten die Autoren des Berichts drei Paradoxa ab:

  1. Das Talent-Paradoxon. In Europa gibt es rund 325.000 KI-Fachkräfte – genauso viele wie in den Vereinigten Staaten. Drei der zehn weltweit meistzitierten KI-Wissenschaftler sind Europäer. Und doch arbeiten 53 % der europäischen KI-Fachkräfte in traditionellen Wirtschaftsbereichen wie Industriekonzernen und Beratungsunternehmen, verglichen mit 40 % in den USA, und sechs der fünfzehn größten KI-Arbeitgeber Europas sind US-amerikanische Big-Tech-Unternehmen.
  2. Das Nutzungsparadoxon. Die Europäer sind die weltweit aktivsten KI-Nutzer. Mit 133 Millionen monatlichen LLM-Nutzern in Europa ist die Zahl fast doppelt so hoch wie in den USA. Doch fast jedes Modell, das sie nutzen, wurde in Amerika oder China entwickelt – was bedeutet, dass europäische Nutzer faktisch Algorithmen trainieren und verbessern, die anderen gehören.
  3. Das Startup-Paradoxon. In Europa entstehen jedes Jahr genauso viele neue KI-Startups wie in den USA. Doch nur ein Drittel davon entwickelt sich zu erfolgreichen Unternehmen. Wenn ein europäisches KI-Unternehmen die Spätphase erreicht, sind 73 % seiner Hauptinvestoren Amerikaner. Europa inkubiert; die USA erobern den Markt.

URLs:

KI-Agenten brauchen einen “Gedächtnispalast”

Rohit Krishnan untersuchte die Frage: Was bricht tatsächlich als Erstes zusammen, wenn ein KI-Agent einen Posteingang in menschlicher Größenordnung verwalten muss?
Dazu wurden vier Szenarien betrachtet.

  1. Experiment 1: Die erste Frage war, ob das Modell versagt, weil es Nachrichten im Posteingang nicht bewerten kann, oder weil wir es dazu bringen, sich die falschen Informationen zu merken. Getestet wurden zwei Bedingungen: In einer Bedingung wurde ein riesiger Scratchpad verwendet, in der anderen ein expliziter Thread-Zustand.
    Im Gegensatz zum Scratchpad verlor GPT-5.2 mit dem Thread-Zustand nicht mehr den Überblick darüber, auf welches Projekt sich eine Folgeanfrage bezog, Aktionen mit falschem Ziel verschwanden, die Qualität stieg an und der Token-Verbrauch sank drastisch.
  2. Experiment 2: Kann ein kleineres Modell dank eines verbesserten Zustandspeichers mit einem stärkeren Modell konkurrieren?
    Das Ergebnis war, dass das kleine Modell nicht oft genug valide und kontrolliert blieb, um nützlich zu sein, es versagte zu oft bei der Erfüllung der Anforderungen an strukturierte Ausgaben
  3. Experiment 3: Wie kann man über einen einzelnen Agenten hinaus skalieren?
    Untersucht wurde, ob parallele Agenten für sich genommen bei der Erledigung der Aufgabe helfen oder ob ein gemeinsame Koordinationszustand hierfür wichtiger ist. Als Ergebnis kam heraus, dass insbesondere beim Einsatz mehrerer Agenten eine gute Koordinierung unter Einsatz eines zentralen Informationsspeicher (Shared Board) erforderlich ist. Der zentrale Informationsspeicher scheint die eigentliche Skalierungsgrundlage zu sein, nicht die Anzahl der Agenten an sich.
  4. Experiment 4: Hier wurde untersucht, was der zentrale Informationsspeicher enthalten sollte. Heraus kam, dass sowohl die Aufgabe als auch die Rolle eines jeden Agenten gespeichert werden muss, denn Agenten schnell, in welcher Rolle sie eigentlich agieren oder an wen sie sich wenden sollen.

Insgesamt ein interessantes Experiment, finde ich.
URLs:

Samstag, März 14, 2026

EU-Rat inigt sich auf einen Standpunkt zu KI-Regelungen des Omnibus-Vorschlags der EU-Kommision

Der Rat der Europäischen Union einigte sich am Freitag, 13. März 2026 (also einem “Freitag, der 13.”), auf einen Standpunkt zur Vereinfachung der Vorschriften für künstliche Intelligenz entsprechend des Omnibus VII-Vorschlags der EU-Kommission.
Die Kommission schlug vor,

  • den Zeitplan für die Anwendung der Vorschriften für KI-Systeme mit hohem Risiko um bis zu 16 Monate anzupassen, sodass die Vorschriften in Kraft treten, sobald die Kommission bestätigt hat, dass die erforderlichen Standards und Instrumente verfügbar sind;
  • Änderungen am KI-Gesetz vor, die bestimmte regulatorische Ausnahmen für KMU auch auf kleine bis mittelgroße Unternehmen (SMCs) ausweiten;
  • Anforderungen in einer sehr begrenzten Anzahl von Fällen reduzieren;
  • die Möglichkeit zur Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Verzerrungen erweitern.

All dies und mehr finden Unterstützung im Rat der Europäischen Union.
Der Beschluss des Rates enthält jedoch auch Ergänzungen: KI-Praktiken im Zusammenhang mit der Erstellung von sexuellen und intimen Inhalten ohne Einwilligung oder von Material über sexuellen Kindesmissbrauch sollen verboten werden.
Der Ratstext sieht zudem einen festen Zeitplan für die verzögerte Anwendung der Vorschriften für risikoreiche Systeme vor: Die neuen Anwendungsdaten wären der 2. Dezember 2027 für eigenständige risikoreiche KI-Systeme und der 2. August 2028 für risikoreiche KI-Systeme, die in Produkte eingebettet sind.
Nach der heutigen Annahme des Mandats durch den Rat wird der Rat Verhandlungen mit dem Europäischen Parlament aufnehmen.
URL

Freitag, März 13, 2026

HEPI: Wie nutzen britische Studierende generativen künstlichen Intelligenz?

Forscher des Higher Education Policy Institute (HEPI) führten unter britischen Studierenden eine Umfrage durch, wie diese generative künstliche Intelligenz (genAI) nutzen.
Zu den wichtigsten aus der Umfrage gewonnenen Erkenntnissen gehören:

  • Der Einsatz von KI an Hochschulen ist mittlerweile fast allgegenwärtig: Rund 95 % der Studierenden geben an, KI auf mindestens eine Weise zu nutzen, und 94 % sagen, dass sie generative KI zur Unterstützung bei Prüfungsarbeiten einsetzen.
    Der Anteil der Studierenden, die KI-generierten Text direkt in ihre Prüfungsarbeiten einfließen lassen, ist auf 12 % gestiegen, gegenüber 8 % im Jahr 2025 und 3 % im Jahr 2024.
  • Die Prüfungen haben sich zudem erheblich verändert. Fast zwei Drittel (65 %) der Studierenden geben an, dass sich die Prüfungen als Reaktion auf KI-Nutzung erheblich verändert haben.
    Darüber hinaus äußern einige Studierende ein Gefühl der Angst vor falschen Vorwürfen wegen Fehlverhaltens.
  • KI verbessert für viele – aber nicht für alle – das Studienerlebnis.
    • Fast die Hälfte (49 %) der Studierenden ist der Meinung, dass KI ihr Studienerlebnis verbessert hat, insbesondere durch Zeitersparnis, besseres Verständnis und sofortige Unterstützung.
    • Eine Minderheit ist jedoch der Ansicht, dass KI ihr Erlebnis verschlechtert hat, und nennt dabei Bedenken hinsichtlich Fairness, Kompetenzverlust, sozialer Isolation und zukünftiger Beschäftigungsaussichten.
  • Studierende nutzen KI, um ihr Wohlbefinden zu fördern. Rund 15 % der Studierenden geben an, KI als Gesprächspartner zur Beratung oder zur Bewältigung von Einsamkeit zu nutzen.
  • Während mehr als zwei Drittel (68 %) der Studierenden der Meinung sind, dass KI-Kompetenzen unverzichtbar sind, um in der heutigen Welt erfolgreich zu sein, hat weniger als die Hälfte (48 %) das Gefühl, dass ihre Lehrkräfte ihnen dabei helfen, diese Kompetenzen für ihre zukünftige berufliche Laufbahn zu entwickeln. Vor allem Studierende der Geisteswissenschaften fühlen sich häufig nicht ausreichend unterstützt.

URLs:

Nächste Seite »
« Vorherige Seite