Bedrohlicher Trend: Meta-KI-Hack aktuelles Beispiel für potenziell verhängnisvolle Entwicklung

Bezugnehmend auf aktuelle Vorfälle, bei denen Systeme Künstlicher Intelligenz (KI) von OpenAI, Anthropic und Meta im Rahmen von Sicherheitstests auf reale Infrastrukturen zugreifen konnten, betont Tim Hudson, dass derartige Vorkommnisse nicht länger als „isolierte Pannen“ abgetan werden sollten

[datensicherheit.de, 10.08.2026] Angesichts der jüngsten Vorfälle, bei denen Systeme Künstlicher Intelligenz (KI) von OpenAI, Anthropic und Meta im Rahmen von Sicherheitstests auf reale Infrastrukturen zugreifen konnten, betont Tim Hudson, Mitentwickler der Software, aus der „OpenSSL“ hervorging, und Präsident der OpenSSL Corporation, dass diese Fälle nicht länger als isolierte Pannen abgetan werden könnten: „OpenAI, Anthropic und jetzt Meta: Wenn mehrere der leistungsfähigsten KI-Systeme der Welt innerhalb weniger Wochen aus Testumgebungen in reale Anwendungen für Menschen, Dienste und Unternehmen gelangen, können wir dies nicht länger als Einzelfälle abtun. Wir beobachten ein wiederkehrendes Muster: Autonome Systeme erhalten ein Ziel, Internetzugang und übermäßige Befugnisse – und die Verantwortlichen entdecken erst im Nachhinein, was die Systeme angerichtet haben.“

Ein KI-System benötigt gar keinen Vorsatz, um Schaden anzurichten

Das bedeutet laut Hudson nicht, dass KI plötzlich eigene böswillige Absichten entwickelt hat – es bedeutet demnach etwas viel Banales und Gefährlicheres: Ein KI-System brauche gar keine Absicht, um Schaden anzurichten. „Es benötigt lediglich ein unzureichend definiertes Ziel, eine anfällige Schnittstelle und die Berechtigung zum Handeln“, so seine Warnung.

• Die Branche spreche viel über die Entwicklung intelligenterer Modelle, aber zu wenig über den Aufbau intelligenterer Sicherheitsarchitekturen.

Jeder, der einen autonomen Agenten mit dem Internet verbindet, müss davon ausgehen, dass dieser jede erreichbare Schwachstelle ausnutzen wird, wenn dies seinem Ziel dient.

Forderungen nach Beschränkungen und Exportkontrollen für leistungsstarke KI-Modelle könnten befeuert werden

Strenge Identitätskontrollen, das „Prinzip der minimalen Berechtigungen“, eingeschränkter Netzwerkzugriff, Echtzeitüberwachung und Mechanismen zum sofortigen Abschalten dürften nicht erst nachträglich hinzugefügt werden:

• „Sie müssen Voraussetzung für jeden Test und jede Implementierung sein!“ Diese Vorfälle werden – so seine Vermutung – die Forderungen nach Beschränkungen und Exportkontrollen für leistungsstarke KI-Modelle noch verstärken.

Abschließend gibt Hudson zu bedenken: „Die entscheidende Frage ist nicht, welches Unternehmen das nächste leistungsstarke Modell auf den Markt bringt. Sie lautet: ,Wer hat diesem Modell die Berechtigung, die Vernetzung und die Handlungsbefugnis in der realen Welt verliehen?‘“

Die DS-Redaktion zu Erkenntnissen und Ableitungen aus der aktuellen „ThreatLabz“-Analysen:

• Wenn bereits KI-Systeme ohne „böse Absichten“ bedrohlich wirken, sollten sich Sicherheitsverantwortliche mit der Frage befassen, was ihnen erst droht, wenn Cyberkriminelle KI-Systeme mit gezielt destruktiven Prompts ausstatten.

• KI-Systeme sind virtuelle Werkzeuge: Ebenso wie bei materiellen Werkzeugen die Intention, die Sachkunde, die Ethik und der Ordnungsrahmen darüber entscheiden, ob diese wertschöpfend bzw. nützlich oder eben als Waffe eingesetzt werden, haben diese eine Dual-Use-Funktion, auf die es sich einzustellen gilt.

• Selbst wenn die o.g. bzw. ähnliche KI-Systeme von Exportkontrollen betroffen sein sollten, muss die Tatsache, dass über das Internet Ziele weltweit adressiert werden könnten, in ganzheitlichen IT-Sicherheitskonzepten Beachtung finden.

• KI-Systeme, zumal leistungsstarke Agenten, werden bleiben – so ist es eine Aufgabe für die Ordnungspolitik im internationalen Kontext sowie der IT-Sicherheitsverantwortlichen, sich dieser Herausforderung zu stellen und sinnvolle Anwendungen zu ermöglichen.

• Moderne KI-Systeme erhöhen den Druck auf Betriebe, die oft seit Langem in ihren IT-Systemen schlummernden Schwachstellen zu beheben, aber auch Vorbeugungs- und Schutzmaßnahmen sowie erprobte Notfall- und Wiederanlaufpläne im Hinblick auf Strategische Tiefe, Resilienz und Stabilität („fail-operational“ bzw. „fail-safe“) abzustimmen.

Weitere Informationen zum Thema:

openSSL CORPORATION
Who is the OpenSSL Corporation? / The official commercial arm of the OpenSSL Project — built and run by the library’s original founders and core maintainers. Our commercial work funds the majority of all development on the OpenSSL Library.

Linkedin
Tim Hudson

zdfheute, 06.08.2026
Ähnliche Fälle bei OpenAI und Anthropic:Auch KI von Meta hackte sich in fremde Firma / Mit Meta muss ein weiterer Tech-Gigant einräumen, dass seine KI-Software unbeabsichtigt Cyberangriffe auf eine andere Firma durchgeführt hat. Es gab mehrere vergleichbare Vorfälle.

tagesschau, 06.08.2026
Nach Anthropic und OpenAI Auch KI von Meta dringt in fremdes System ein

DER SPIEGEL, 06.08.2026
Autonomer Angriff Auch KI von Meta hackte sich in eine andere Firma / Immer häufiger steckt KI hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Der Fehler soll auf einen Testpartner zurückgehen.

datensicherheit.de, 09.08.2026
Offene Türen für KI-Agenten schließen – das SANS Institute gibt IT-Sicherheitsteams Empfehlungen / Inzwischen häufen sich die Berichte von KI-Anbietern, deren -Agenten aus den Testumgebungen ausbrechen und andere Software-Anbieter hacken

datensicherheit.de, 07.08.2026
Claude-Phishing-Vorfall durch Versagen grundlegender KI-Sicherheitsarchitektur ermöglicht / Laut Medienberichten hatte die KI „Claude“ bei einem Sicherheitstest unerwarteten Zugang zum öffentlichen Internet erlangt

datensicherheit.de, 03.08.2026
„Claude“-Ausbrüche mahnen: KI-Modelle durch „Zero Trust“ einhegen / Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie Menschen

datensicherheit.de, 03.08.2026
KI-Systeme: Wer testet, haftet für die Folgen / KI-Unternehmen müssen nun die richtigen „Leitplanken“ installieren, damit ihre Produkte nicht zur Gefahr werden