Sprachmodelle können sich selbst selbstständig replizieren : Kommentare

Mittwoch, Mai 13, 2026

Sprachmodelle können sich selbst selbstständig replizieren

Ein Forscherteam von Palisade Research zeigte, dass Sprachmodelle unter Laborbedingungen ihre Gewichte und ihr “Harness”, d. h. die Software, in welche die KI eingebettet ist, autonom über ein Netzwerk hinweg replizieren können, indem sie anfällige Hosts ausnutzen. Genauer: Der KI-Der Agent findet und nutzt eigenständig eine Schwachstelle in einer Webanwendung aus, extrahiert Anmeldedaten und stellt auf dem kompromittierten Host einen Inferenzserver mit einer Kopie seines Harness und seiner Eingabeaufforderung bereit.
In der Studie testeten die Forscher von Palisade mehrere KI-Modelle, darunter GPT-5.4 von OpenAI und Claude Opus 4 von Anthropic. Die Modelle wurden in ein kontrolliertes Computernetzwerk eingebunden und erhielten die Anweisung, Schwachstellen zu finden und diese zu nutzen, um sich selbst auf einen anderen PC zu kopieren.

Gegenüber The Guardian erklärte der IT-Sicherheitsforscher Jamieson O’Reilly, dass er das Szenarion jedoch (noch) nicht als Bedrohung für die reale Welt ansieht. UnterLaborbedingungen wurden Hosts mit bekannten Schwachstellen genutzt, aber in eine in einer realen Betriebsumgebung mit selbst mittlerem Überwachungsniveau wird das Szenario wahrscheinlich weit weniger beängstigend aussehen. Allein schon aufgrund der Größe aktueller KI-Modelle sei es in vielen Situationen unrealistisch ist, dass sich KI-Modelle unbemerkt auf andere Computer kopieren können: Wird ein Host gehackt und 100 GB durch ein Unternehmensnetzwerk gesendet, dann fällt das auf.
Das Forscherteam von Palisade Research wies in ihrem Forschungsbericht selbst darauf hin, dass den Zielen im Forschungsprojekt Verteidigungsschichten wie beispielsweise Web-Application Firewalls, Rate Limiting und Intrusion Detection, über die reale Implementierungen verfügen würden, fehlen.

URLs: