„Claude“-Ausbrüche mahnen: KI-Modelle durch „Zero Trust“ einhegen

Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie Menschen

[datensicherheit.de, 03.08.2026] Auch Trevor Dearing, „Director of Critical Infrastructure“ bei Illumio, geht in seiner Stellungnahme kritisch auf die jüngsten „Claude“-Eskapaden ein: „Es überrascht mich nicht, dass wir immer mehr dieser Vorfälle sehen. Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie wir Menschen.“ Er warnt, dass wir uns auf eine Welt zubewegen, in der Angriffe mit Maschinengeschwindigkeit ablaufen, so dass früher möglicherweise unentdeckte Schwachstellen künftig sehr viel schneller aufgefasst und eben durch Künstliche Intelligenz (KI) sogar missbraucht werden könnten. Er rät dringend zu „ Zero Trust“-Sicherheitsprinzipien.

Foto: Illumio

Trevor Dearing unterstreicht, dass Unternehmen Lösungen benötigen, welche den Schaden eindämmen können, wenn etwas mit der KI schiefläuft

Zu simple Sicherheitsmaßnahmen für angeblich „kontrollierte“ KI-Umgebung

Erschreckender sei vielmehr, wie simpel die Sicherheitsmaßnahmen waren, welche diese „kontrollierte“ Umgebung schaffen sollten. „Wir bewegen uns auf eine Welt zu, in der Angriffe mit Maschinengeschwindigkeit ablaufen. Fehler, die früher möglicherweise unentdeckt geblieben wären, können dadurch künftig sehr viel schneller entdeckt und ausgenutzt werden“, gibt Dearing zu bedenken.

• Man müsse KI-Agenten deshalb wesentlich wirksamer einhegen. „Prompts in natürlicher Sprache sind zu mehrdeutig, um als belastbare Sicherheitsgrenze zu dienen. Zudem ist es grundsätzlich der falsche Ansatz, einem Agenten lediglich vorzugeben, was er nicht tun darf.“

Ferner bleibe das „Block List“-Prinzip zwangsläufig unvollständig: Selbst wenn 10.000 Aktivitäten ausdrücklich verboten seien, genüge einem Agenten eine einzige nicht verbotene Aktivität, um die Begrenzung zu umgehen. Bei autonomen Systemen, welche Optionen in Maschinengeschwindigkeit prüften, könne genau diese Lücke zum Ausbruch aus der kontrollierten Umgebung führen.

Konsequenter Zero-Trust-Ansatz für KI-Systeme

Anthropic habe „Claude“ lediglich mitgeteilt, dass kein Internetzugang bestehe – dies sei jedoch keine echte Grenze. „Stattdessen brauchen wir einen konsequenten Zero-Trust-Ansatz: Wir sollten klar definieren, was ein Agent tun darf – also das ,Allow List’-Prinzip anwenden!“

• Unternehmen könnten sich jetzt noch viel weniger als früher darauf verlassen, bekannte Angriffsmuster zu erkennen oder darauf zu warten, dass ein Warnsystem anschlägt.

Dearings Fazit: „Sie benötigen deutlich mehr Visibilität darüber, was ihre KI-Systeme tun und worauf sie zugreifen können. Und sie brauchen Lösungen, die den Schaden eindämmen können, wenn etwas schiefläuft!“

Weitere Informationen zum Thema:

illumio
Der Weltmarktführer in der Eindämmung von Sicherheitsverletzungen: Illumio ist die erste und einzige Plattform, die für die Eindämmung von Sicherheitsverletzungen entwickelt wurde. Basierend auf einem KI-Sicherheitsdiagramm. Ermöglicht Ihre Zero-Trust-Prozesse.

illumio
Trevor Dearing – Director of Critical Infrastructure Solutions / Zero Trust and network segmentation innovator

tagesschau, 31.07.2026
Vorfälle bei Testläufen Anthropic-KI greift eigenständig Unternehmen an

DIE ZEIT, 31.07.2026
Künstliche Intelligenz: Anthropic gesteht ebenfalls Hackerangriff von KI-Modell Claude / Ein weiterer KI-Agent ist bei Sicherheitstests entkommen und hat sich in drei Unternehmen gehackt. Das teilte US-Konzern Anthropic mit. Grund sei ein Programmierfehler.

datensicherheit.de, 03.08.2026
KI-Systeme: Wer testet, haftet für die Folgen / KI-Unternehmen müssen nun die richtigen Leitplanken installieren, damit ihre Produkte nicht zur Gefahr werden

datensicherheit.de, 17.06.2026
Embargo für Anthropic-KI-Modelle: eco moniert mögliche Folgen für Europas Cybersicherheit / Die US-Regierung hat direkte Exportkontrollen gegen KI-Software verhängt – hierunter fallen auch Anthropics Modelle „Fable 5“ und „Mythos 5“

datensicherheit.de, 23.04.2026
Claude Mythos: Anthropic könnte Büchse der Pandora geöffnet haben​ / Über einen Mangel an Publicity kann sich Anthropic-Chef Dario Amodei dieser Tage sicher nicht beschweren, kommentiert Jochen Koehler