[datensicherheit.de, 03.08.2026] Auch Trevor Dearing, „Director of Critical Infrastructure“ bei Illumio, geht in seiner Stellungnahme kritisch auf die jüngsten „Claude“-Eskapaden ein: „Es überrascht mich nicht, dass wir immer mehr dieser Vorfälle sehen. Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie wir Menschen.“ Er warnt, dass wir uns auf eine Welt zubewegen, in der Angriffe mit Maschinengeschwindigkeit ablaufen, so dass früher möglicherweise unentdeckte Schwachstellen künftig sehr viel schneller aufgefasst und eben durch Künstliche Intelligenz (KI) sogar missbraucht werden könnten. Er rät dringend zu „ Zero Trust“-Sicherheitsprinzipien.

Foto: Illumio

Trevor Dearing unterstreicht, dass Unternehmen Lösungen benötigen, welche den Schaden eindämmen können, wenn etwas mit der KI schiefläuft

Zu simple Sicherheitsmaßnahmen für angeblich „kontrollierte“ KI-Umgebung

Erschreckender sei vielmehr, wie simpel die Sicherheitsmaßnahmen waren, welche diese „kontrollierte“ Umgebung schaffen sollten. „Wir bewegen uns auf eine Welt zu, in der Angriffe mit Maschinengeschwindigkeit ablaufen. Fehler, die früher möglicherweise unentdeckt geblieben wären, können dadurch künftig sehr viel schneller entdeckt und ausgenutzt werden“, gibt Dearing zu bedenken.

• Man müsse KI-Agenten deshalb wesentlich wirksamer einhegen. „Prompts in natürlicher Sprache sind zu mehrdeutig, um als belastbare Sicherheitsgrenze zu dienen. Zudem ist es grundsätzlich der falsche Ansatz, einem Agenten lediglich vorzugeben, was er nicht tun darf.“

Ferner bleibe das „Block List“-Prinzip zwangsläufig unvollständig: Selbst wenn 10.000 Aktivitäten ausdrücklich verboten seien, genüge einem Agenten eine einzige nicht verbotene Aktivität, um die Begrenzung zu umgehen. Bei autonomen Systemen, welche Optionen in Maschinengeschwindigkeit prüften, könne genau diese Lücke zum Ausbruch aus der kontrollierten Umgebung führen.

Konsequenter Zero-Trust-Ansatz für KI-Systeme

Anthropic habe „Claude“ lediglich mitgeteilt, dass kein Internetzugang bestehe – dies sei jedoch keine echte Grenze. „Stattdessen brauchen wir einen konsequenten Zero-Trust-Ansatz: Wir sollten klar definieren, was ein Agent tun darf – also das ,Allow List’-Prinzip anwenden!“

• Unternehmen könnten sich jetzt noch viel weniger als früher darauf verlassen, bekannte Angriffsmuster zu erkennen oder darauf zu warten, dass ein Warnsystem anschlägt.

Dearings Fazit: „Sie benötigen deutlich mehr Visibilität darüber, was ihre KI-Systeme tun und worauf sie zugreifen können. Und sie brauchen Lösungen, die den Schaden eindämmen können, wenn etwas schiefläuft!“

Weitere Informationen zum Thema:

illumio
Der Weltmarktführer in der Eindämmung von Sicherheitsverletzungen: Illumio ist die erste und einzige Plattform, die für die Eindämmung von Sicherheitsverletzungen entwickelt wurde. Basierend auf einem KI-Sicherheitsdiagramm. Ermöglicht Ihre Zero-Trust-Prozesse.

illumio
Trevor Dearing – Director of Critical Infrastructure Solutions / Zero Trust and network segmentation innovator

tagesschau, 31.07.2026
Vorfälle bei Testläufen Anthropic-KI greift eigenständig Unternehmen an

DIE ZEIT, 31.07.2026
Künstliche Intelligenz: Anthropic gesteht ebenfalls Hackerangriff von KI-Modell Claude / Ein weiterer KI-Agent ist bei Sicherheitstests entkommen und hat sich in drei Unternehmen gehackt. Das teilte US-Konzern Anthropic mit. Grund sei ein Programmierfehler.

datensicherheit.de, 03.08.2026
KI-Systeme: Wer testet, haftet für die Folgen / KI-Unternehmen müssen nun die richtigen Leitplanken installieren, damit ihre Produkte nicht zur Gefahr werden

datensicherheit.de, 17.06.2026
Embargo für Anthropic-KI-Modelle: eco moniert mögliche Folgen für Europas Cybersicherheit / Die US-Regierung hat direkte Exportkontrollen gegen KI-Software verhängt – hierunter fallen auch Anthropics Modelle „Fable 5“ und „Mythos 5“

datensicherheit.de, 23.04.2026
Claude Mythos: Anthropic könnte Büchse der Pandora geöffnet haben​ / Über einen Mangel an Publicity kann sich Anthropic-Chef Dario Amodei dieser Tage sicher nicht beschweren, kommentiert Jochen Koehler

[datensicherheit.de, 03.08.2026] Juraj Jánošík, „Vice President of Artificial Intelligence“ bei ESET, ordnet in seiner Stellungnahme aktuelle Vorfälle mit Systemen Künstlicher Intelligenz (KI) ein – diese machten deutlich, „wie sehr die neue Technologie die IT-Sicherheit beeinflusst“. Er betont, dass KI-Unternehmen nun die richtigen „Leitplanken“ installieren müssten, „damit ihre Produkte nicht zur Gefahr werden“.

Foto: ESET

Juraj Jánošík: Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung!

„Claude“ hatte Schwachstellen in IT-Systemen von drei Organisationen ausgenutzt

Wie das KI-Unternehmen Anthropic berichtet hatte, war es demnach mehreren Versionen des eigenen Sprachmodells „Claude“ im Rahmen von Cybersicherheitstests gelungen, aufgrund eines Konfigurationsfehlers auf öffentliche Netzwerke zuzugreifen und dabei Schwachstellen in den IT-Systemen von drei Organisationen auszunutzen.

• „Die jüngsten Vorfälle bei OpenAI und Anthropic sollten vor allem als Warnsignal für die IT-Sicherheit verstanden werden und nicht als Beleg dafür, wie leistungsfähig moderne KI bereits ist!“, gibt Jánošík zu bedenken.

Wenn ein klassischer Software- oder Sicherheitsanbieter ein System testen würde, das seine vorgesehenen Grenzen überschreitet und auf fremde IT-Infrastrukturen zugreift, wären kritische Nachfragen und eine umfassende Untersuchung selbstverständlich. „Für KI-Unternehmen sollten die gleichen Maßstäbe gelten!“, betont Jánošík.

KI-Aufstieg ähnelt prinzipiell früheren „Techtrends“

Dieses Muster sei in der Technologiebranche nicht neu. Auch beim Aufstieg des „Cloud Computing“ habe zunächst die schnelle Verbreitung der Technologie im Vordergrund gestanden, während Sicherheitskonzepte erst später nachgezogen worden seien.

• „Ähnliches sehen wir heute bei Künstlicher Intelligenz: Die Entwicklung und Vermarktung neuer KI-Systeme schreitet rasant voran, während Sicherheitsfragen häufig erst im Nachhinein adressiert werden. Angesichts der wachsenden Fähigkeiten dieser Systeme ist das jedoch keine tragbare Strategie mehr!“

Der aktuelle Vorfall werde eher als ein Marketing-Gag denn als ein Problem behandelt: „Besonders problematisch ist, dass solche Vorfälle teilweise so kommuniziert werden, dass die technischen Fähigkeiten der KI im Mittelpunkt stehen. Dadurch entsteht der Eindruck, ein Sicherheitsproblem sei gleichzeitig eine Art Leistungsnachweis.“ Dies sei der falsche Fokus. Sicherheitsvorfälle sollten transparent aufgearbeitet werden und nicht als Marketinginstrument im Wettbewerb der KI-Anbieter dienen.

KI-Branche sollte bewährte Sicherheitsstandards konsequent anwenden

Mit zunehmender Leistungsfähigkeit von KI-Agenten müssten auch die Sicherheitsanforderungen steigen. Dazu gehörten strikt abgeschottete Testumgebungen, wirksame Zugriffskontrollen, unabhängige Sicherheitsprüfungen sowie eine schnelle und transparente Information betroffener Organisationen.

• „Die Branche sollte bewährte Sicherheitsstandards konsequent anwenden, bevor solche Systeme in großem Maßstab eingesetzt werden!“

Die wichtigste Erkenntnis lautet laut Jánošík: „Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung! Für sie müssen dieselben hohen Sicherheitsstandards gelten wie für jeden anderen Technologieanbieter.“

Weitere Informationen zum Thema:

eseT
Wir sind ein weltweites Unternehmen für digitale Sicherheit und schützen Millionen von Kunden sowie Hunderttausende von Unternehmen rund um den Globus. / Technologie ermöglicht Fortschritt. ESET macht ihn sicher.

welivesecurity by eseT
Juraj Jánošík – ESET Vice President of Artificial Intelligence

tagesschau, 31.07.2026
Vorfälle bei Testläufen Anthropic-KI greift eigenständig Unternehmen an

DIE ZEIT, 31.07.2026
Künstliche Intelligenz: Anthropic gesteht ebenfalls Hackerangriff von KI-Modell Claude / Ein weiterer KI-Agent ist bei Sicherheitstests entkommen und hat sich in drei Unternehmen gehackt. Das teilte US-Konzern Anthropic mit. Grund sei ein Programmierfehler.

datensicherheit.de, 03.08.2026
„Claude“-Ausbrüche mahnen: KI-Modelle durch „Zero Trust“ einhegen
Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie Menschen

datensicherheit.de, 17.06.2026
Embargo für Anthropic-KI-Modelle: eco moniert mögliche Folgen für Europas Cybersicherheit / Die US-Regierung hat direkte Exportkontrollen gegen KI-Software verhängt – hierunter fallen auch Anthropics Modelle „Fable 5“ und „Mythos 5“

datensicherheit.de, 23.04.2026
Claude Mythos: Anthropic könnte Büchse der Pandora geöffnet haben​ / Über einen Mangel an Publicity kann sich Anthropic-Chef Dario Amodei dieser Tage sicher nicht beschweren, kommentiert Jochen Koehler