Samstag, März 7, 2026
Sicherheitsforscher von ESET Research entdeckten PromptSpy, eine Android-Malware, welche generative KI in ihrem Workflow nutzt.
PromptSpy nutzt Googles Gemini, um Bildschirmelemente auf dem kompromittierten Android-Gerät zu interpretieren. PromptSpy erhält dabei dynamische Anweisungen, wie eine bestimmte Handlung ausgeführt werden muss, um in der Liste der zuletzt verwendeten Apps zu bleiben.
Der Hauptzweck (ohne GenAI-Unterstützung) von PromptSpy besteht darin, ein Virtual Network Computing (VNC)-Modul auf dem Gerät des Opfers zu installieren, damit Angreifer den Bildschirm sehen und Aktionen aus der Ferne ausführen können.
PromptSpy ist daher typische Malware/Spyware: es werden Daten vom Sperrbildschirm erfasst, die Deinstallation blockiert, Geräteinformationen gesammelt, Screenshots erstellt, Bildschirmaktivitäten als Video aufzeichnet. Es bestehen noch diverse andere Möglichkeiten.
URLs
Dienstag, März 3, 2026
Forscher der ETH Zürich und Antropic veröffentlichten ein Papier, in dem sie darstellten, wie mit aktuellen KI-Systemen beim Einsatz von Pseudonymen eine Re-Identifikation durchgeführt werden kann.
Große Sprachmodelle können demnach pseudonyme Online-Profile vollautomatisch einer realen Person zuordnen, für ein bis vier Dollar pro Profil und in Minuten statt Stunden. Die Forscher implementieren wir eine skalierbare Angriffspipeline, die LLMs nutzt, um: (1) identitätsrelevante Merkmale zu extrahieren, (2) über semantische Einbettungen nach Übereinstimmungen zu suchen und (3) die besten Kandidaten zu überprüfen, um Übereinstimmungen zu verifizieren und Fehlalarme zu reduzieren.
Die Forscher testeten ihren Ansatz in verschiedenen Szenarien. u.a.:
- Beim Abgleich von Hacker-News-Konten mit LinkedIn-Profilen über einen Pool von rund 89.000 Kandidaten identifizierte die Pipeline knapp die Hälfte aller Nutzer, und das mit einer Genauigkeit von 99 Prozent.
- Bei Reddit-Nutzern in verschiedenen Film-Communities zeigte sich ein klares Muster: Je mehr Filme jemand in beiden Communities diskutiert hatte, desto leichter fiel die Zuordnung. Nutzer mit zehn oder mehr gemeinsamen Filmtiteln wurden fast zur Hälfte korrekt identifiziert; bei nur einem gemeinsamen Film lag die Quote bei rund drei Prozent.
Nach Ansicht der Forscher funktioniert der Ansatz mit Rohdaten von Benutzern auf beliebigen Plattformen.
URLs:
Dienstag, Februar 24, 2026
In einer explorative Red-Teaming-Studie zu autonomen, sprachmodellgestützten Agenten, die in einer Live-Laborumgebung mit persistenter Speicherung, E-Mail-Konten, Discord-Zugang, Dateisystemen und Shell-Ausführung eingesetzt wurden, interagierten zwanzig KI-Forscher unter günstigen und widrigen Bedingungen mit den Agenten über einen Zeitraum von zwei Wochen.
Die Ergebnisse belegen das Vorhandensein von Sicherheits-, Datenschutz- und Governance-relevanten Schwachstellen in realistischen Einsatzumgebungen. Beobachtet wurden z. B. die unbefugte Zusammenarbeit mit Dritten, die Offenlegung sensibler Informationen, die Ausführung destruktiver Aktionen auf Systemebene, Denial-of-Service-Bedingungen, unkontrollierter Ressourcenverbrauch, Anfälligkeiten für Identitätsbetrug, die Verbreitung unsicherer Praktiken zwischen Agenten und die teilweise Übernahme des Systems.
URLs:
Freitag, Februar 20, 2026
Microsoft veröffentlichte im Januar 2026 den technischen Bericht „Media Integrity and Authentication: Status, Directions, and Futures“.Die Microsoft-Forscher bewerteten verschiedene Ansätze zur Erkennung von KI-Fälschungen („AI Fake“), darunter Provenienz im Sinne von Herkunftsmetadaten, Wasserzeichen und digitale Fingerabdrücke (Hashwerte). Dabei analysieren die Forscher, wie diese Tools über verschiedene Modalitäten hinweg funktionieren, und evaluierten relevante Bedrohungsmodelle, Angriffskategorien und reale Arbeitsabläufe, die die Erfassung, Bearbeitung, Verteilung und Verifizierung umfassen.
Die Autoren kommen zu dem Schluss, dass es keine einzelne Lösung gibt, die digitale Täuschungen allein verhindern kann. Methoden wie Herkunftsnachweis, Wasserzeichen und digitale Fingerabdrücke können nützliche Informationen liefern, z. B. wer den Inhalt erstellt hat, welche Tools verwendet wurden und ob er verändert wurde. Insbesondere die Verknüpfung von Herkunftsmetadaten nach dem offenen Standard „Coalition for Content Provenance and Authenticity“ (C2PA, siehe https://news.microso … t-in-online-content/) mit einem nicht wahrnehmbaren digitalen Wasserzeichen kann ein relativ hohes Maß an Vertrauen in die Herkunft der Medien schaffen.
URLs:
Mittwoch, Februar 18, 2026
Von LLM generierte Passwörter (die direkt vom LLM und nicht von einem Agenten mit einem Tool generiert werden) sehen zwar sicher aus, sind aber grundsätzlich unsicher, da LLMs darauf ausgelegt sind, Tokens vorherzusagen – das Gegenteil von einer sicheren und einheitlichen Stichprobenauswahl zufälliger Zeichen.
Trotzdem tauchen von LLM generierte Passwörter in der realen Welt auf – sie werden von echten Benutzern verwendet und von Codierungsagenten im Rahmen von Codeentwicklungsaufgaben unsichtbar ausgewählt, anstatt sich auf traditionelle Methoden zur sicheren Passwortgenerierung zu verlassen.
Forscher analysierten die Stärke der von LLM generierten Passwörter analysiert und die Ergebnisse umfassen vorhersehbare Muster in Passwortzeichen, wiederholt verwendete Passwörter und Passwörter, die viel schwächer sind, als sie erscheinen.
URLs:
Presseberichte:
