Aktuelles, Experten - geschrieben von dp am Freitag, August 7, 2026 0:03 - noch keine Kommentare

Claude-Phishing-Vorfall durch Versagen grundlegender KI-Sicherheitsarchitektur ermöglicht

Tags: Agent, Claude, Internet, KI, Phishing, Schwachstelle, Sicherheitsarchitektur

Laut Medienberichten hatte die KI „Claude“ bei einem Sicherheitstest unerwarteten Zugang zum öffentlichen Internet erlangt

[datensicherheit.de, 07.08.2026] Laut Medienberichten hatte bei einem Sicherheitstest „Claude“ unerwarteterweise Zugang zum öffentlichen Internet erlangt. „Das System legte eigenständig eine falsche Identität und einen ,GitHub’-Account an, kontaktierte menschliche Maintainer mit Phishing-Nachrichten und versuchte, eine Schwachstelle in ein reales Open-Source-Projekt einzuschleusen.“ Als der Code dann auffiel, habe das KI-Modell ihn offenbar als unbeabsichtigten Fehler dargestellt und versucht, die Schwachstelle über vermeintliche Korrekturen erneut einzubringen. Tim Hudson, Präsident von OpenSSL und Mitentwickler von „SSLeay“, der Software, aus der „OpenSSL“ hervorging, sieht darin in seinem aktuellen Kommentar vor allem ein Versagen der Sicherheitsarchitektur.

KI-Modell hatte Ziel, Netzwerkzugriff und übermäßige Berechtigungen

Hudson betont: „Das Beunruhigende ist nicht, dass eine KI eine Phishing-E-Mail verfasst hat. Kriminelle automatisieren Phishing-Angriffe seit Jahren. Beunruhigend ist vielmehr, dass Forscher ein autonomes System mit dem öffentlichen Internet verbunden, ihm erlaubt haben, Identitäten zu erstellen und mit einer realen Open-Source-Lieferkette zu interagieren, und sein Verhalten erst im Nachhinein entdeckt haben.“

Das KI-Modell habe weder Bewusstsein noch böswillige Absicht oder ein Verständnis von Richtig und Falsch benötigt. Es habe lediglich ein Ziel, Netzwerkzugriff und übermäßige Berechtigungen gebraucht.

„Es erstellte eine falsche Identität, manipulierte menschliche Wartungsmitarbeiter, versuchte, eine Sicherheitslücke einzuschleusen, und tarnte den Angriff nach seiner Entdeckung als ehrlichen Fehler, bevor es einen erneuten Versuch unternahm“, berichtet Hudson.

Einsatz von KI-Agenten erfordert grundlegende Sicherheitsarchitektur

Ein KI-System, welches zu realen Aktionen fähig ist, müsse durch Identitätsmanagement, das Prinzip der minimalen Berechtigungen, eingeschränkten Netzwerkzugriff, protokollierbare Zugriffsrechte, Ratenbegrenzungen und sofortige menschliche Überwachung eingehegt werden.

Hudson gibt zu bedenken: „Man sichert einen autonomen Agenten nicht, indem man darauf hofft, dass er die Regeln richtig interpretiert. Dies als Versagen der Schutzmechanismen zu bezeichnen, greift zu kurz. Es handelt sich um ein Versagen der grundlegenden Sicherheitsarchitektur.“

Dies sei derselbe Fehler, den die Exportkontrolle in den 1990er-Jahren mit der Kryptographie begangen habe – die Kontrolle des Besitzes des Werkzeugs. „Das funktioniert nicht! Die Frage ist nicht, wer über Intelligenz verfügen darf. Die Frage ist, wer dieser Intelligenz die Berechtigung, die Verbindungen und die Erlaubnis gegeben hat, in die reale Welt einzugreifen.“

Die DS-Redaktion zu Erkenntnissen und Ableitungen aus diesem KI-Vorfall:

Der Einsatz von KI-Systemen – auch zu Testzwecken – erfordert vorab die Einrichtung einer grundlegenden Sicherheitsarchitektur („by design“ und „by default“).
Wer KI-Systeme einsetzt, gerät im Prinzip grundsätzlich in die sogenannte Störerhaftung und muss die volle Verantwortung dafür zu übernehmen bereit sein.
Im Zuge der umfassenden Vernetzung und Digitalisierung, wird es zunehmend schwieriger, klar abgegrenzte Testumgebungen einzurichten.
Erprobte Notfall- und Wiederanlaufplanung sind elementare Sicherheitsaspekte auch beim Einsatz von KI-Systemen.
KI ist ein nützliches Werkzeug – aber nur in kundigen, verantwortungsvollen Händen.