KI-Systeme: Wer testet, haftet für die Folgen

KI-Unternehmen müssen nun die richtigen „Leitplanken“ installieren, damit ihre Produkte nicht zur Gefahr werden

[datensicherheit.de, 03.08.2026] Juraj Jánošík, „Vice President of Artificial Intelligence“ bei ESET, ordnet in seiner Stellungnahme aktuelle Vorfälle mit Systemen Künstlicher Intelligenz (KI) ein – diese machten deutlich, „wie sehr die neue Technologie die IT-Sicherheit beeinflusst“. Er betont, dass KI-Unternehmen nun die richtigen „Leitplanken“ installieren müssten, „damit ihre Produkte nicht zur Gefahr werden“.

Foto: ESET

Juraj Jánošík: Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung!

„Claude“ hatte Schwachstellen in IT-Systemen von drei Organisationen ausgenutzt

Wie das KI-Unternehmen Anthropic berichtet hatte, war es demnach mehreren Versionen des eigenen Sprachmodells „Claude“ im Rahmen von Cybersicherheitstests gelungen, aufgrund eines Konfigurationsfehlers auf öffentliche Netzwerke zuzugreifen und dabei Schwachstellen in den IT-Systemen von drei Organisationen auszunutzen.

• „Die jüngsten Vorfälle bei OpenAI und Anthropic sollten vor allem als Warnsignal für die IT-Sicherheit verstanden werden und nicht als Beleg dafür, wie leistungsfähig moderne KI bereits ist!“, gibt Jánošík zu bedenken.

Wenn ein klassischer Software- oder Sicherheitsanbieter ein System testen würde, das seine vorgesehenen Grenzen überschreitet und auf fremde IT-Infrastrukturen zugreift, wären kritische Nachfragen und eine umfassende Untersuchung selbstverständlich. „Für KI-Unternehmen sollten die gleichen Maßstäbe gelten!“, betont Jánošík.

KI-Aufstieg ähnelt prinzipiell früheren „Techtrends“

Dieses Muster sei in der Technologiebranche nicht neu. Auch beim Aufstieg des „Cloud Computing“ habe zunächst die schnelle Verbreitung der Technologie im Vordergrund gestanden, während Sicherheitskonzepte erst später nachgezogen worden seien.

• „Ähnliches sehen wir heute bei Künstlicher Intelligenz: Die Entwicklung und Vermarktung neuer KI-Systeme schreitet rasant voran, während Sicherheitsfragen häufig erst im Nachhinein adressiert werden. Angesichts der wachsenden Fähigkeiten dieser Systeme ist das jedoch keine tragbare Strategie mehr!“

Der aktuelle Vorfall werde eher als ein Marketing-Gag denn als ein Problem behandelt: „Besonders problematisch ist, dass solche Vorfälle teilweise so kommuniziert werden, dass die technischen Fähigkeiten der KI im Mittelpunkt stehen. Dadurch entsteht der Eindruck, ein Sicherheitsproblem sei gleichzeitig eine Art Leistungsnachweis.“ Dies sei der falsche Fokus. Sicherheitsvorfälle sollten transparent aufgearbeitet werden und nicht als Marketinginstrument im Wettbewerb der KI-Anbieter dienen.

KI-Branche sollte bewährte Sicherheitsstandards konsequent anwenden

Mit zunehmender Leistungsfähigkeit von KI-Agenten müssten auch die Sicherheitsanforderungen steigen. Dazu gehörten strikt abgeschottete Testumgebungen, wirksame Zugriffskontrollen, unabhängige Sicherheitsprüfungen sowie eine schnelle und transparente Information betroffener Organisationen.

• „Die Branche sollte bewährte Sicherheitsstandards konsequent anwenden, bevor solche Systeme in großem Maßstab eingesetzt werden!“

Die wichtigste Erkenntnis lautet laut Jánošík: „Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung! Für sie müssen dieselben hohen Sicherheitsstandards gelten wie für jeden anderen Technologieanbieter.“

Weitere Informationen zum Thema:

eseT
Wir sind ein weltweites Unternehmen für digitale Sicherheit und schützen Millionen von Kunden sowie Hunderttausende von Unternehmen rund um den Globus. / Technologie ermöglicht Fortschritt. ESET macht ihn sicher.

welivesecurity by eseT
Juraj Jánošík – ESET Vice President of Artificial Intelligence

tagesschau, 31.07.2026
Vorfälle bei Testläufen Anthropic-KI greift eigenständig Unternehmen an

DIE ZEIT, 31.07.2026
Künstliche Intelligenz: Anthropic gesteht ebenfalls Hackerangriff von KI-Modell Claude / Ein weiterer KI-Agent ist bei Sicherheitstests entkommen und hat sich in drei Unternehmen gehackt. Das teilte US-Konzern Anthropic mit. Grund sei ein Programmierfehler.

datensicherheit.de, 03.08.2026
„Claude“-Ausbrüche mahnen: KI-Modelle durch „Zero Trust“ einhegen
Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie Menschen

datensicherheit.de, 17.06.2026
Embargo für Anthropic-KI-Modelle: eco moniert mögliche Folgen für Europas Cybersicherheit / Die US-Regierung hat direkte Exportkontrollen gegen KI-Software verhängt – hierunter fallen auch Anthropics Modelle „Fable 5“ und „Mythos 5“

datensicherheit.de, 23.04.2026
Claude Mythos: Anthropic könnte Büchse der Pandora geöffnet haben​ / Über einen Mangel an Publicity kann sich Anthropic-Chef Dario Amodei dieser Tage sicher nicht beschweren, kommentiert Jochen Koehler