Der Einsatz von KI bietet Unternehmen enorme Produktivitätschancen, verschärft zugleich aber die Sicherheitsrisiken. Mit leistungsfähigeren Frontier-AI-Modellen wächst der Handlungsdruck, Chancen zu nutzen und gleichzeitig Datenintegrität und Sicherheit zu gewährleisten. Dabei wird KI sowohl offensiv als auch defensiv zum entscheidenden Faktor.
Ein Statement von James Tucker, Head of CISO bei Zscaler
Der Einsatz der KI in Unternehmen geht in zweierlei Hinsicht mit einem Wettlauf gegen die Zeit einher. Die nächste Generation von Frontier AI-Modellen könnte die Bedrohungslage in den nächsten sechs bis neun Monaten noch einmal dramatisch verändern. Andererseits versuchen Organisationen gerade erst den Produktivitätsvorteil der KI für sich zu erschließen, ohne die Datenintegrität zu gefährden.
Richtig eingesetzt kann KI helfen, Aufgaben schneller abzuarbeiten und damit effizienter zu operieren. Doch die Betrachtungsweise darf nicht bei der Effizienzsteigerung allein stehen bleiben. Im gleichen Maße wie Frontier AI-Modelle leistungsfähiger, portabler und breiter verfügbar werden, gilt es auch die Kehrseite der Einsetzbarkeit zu berücksichtigen. Ihre Leistungsfähigkeit stellen diese Werkzeuge sowohl offensiv als auch defensiv unter Beweis.
Ein anschaulicher Vergleich für den aktuellen Zustand der KI ist der T-Rex aus der Filmreihe Jurassic Park. Derzeit verhalten sich viele Unternehmen so, als hätten sie hohe Zäune um etwas Mächtiges, Wertvolles und noch nicht vollständig Verstandenes errichtet, um dessen Kraft in Schach zu halten. Das Geschäftsmodell KI ist überzeugend, da es Geschwindigkeit, Effizienz und Wettbewerbsvorteile verspricht. Doch wie uns jeder Jurassic Park-Film in Erinnerung ruft, besteht das Problem nicht nur in der Erschaffung des Dinosauriers, sondern vielmehr darin, das damit einhergehende Risiko innerhalb einer geschützten Umgebung einzuzäunen.
Die Kreativität der KI darf nicht unterschätzt werden
Umstritten ist, ob KI wirklich kreativ sein kann. Vielleicht ist persistent ein passenderer Begriff, der die kontinuierliche und hartnäckige Abarbeitung von Aufgaben zum Ausdruck bringt. Bei KI-Modellen scheitert die Eindämmung nicht selten an mangelhafter Governance. Manchmal ist die Ursache für das Scheitern ein böswilliger Insider oder auch ein externer Akteur. Und als zusätzliche Ursache für Fehlschläge kommt hinzu, dass die Menschen die Intelligenz und Anpassungsfähigkeit der von ihnen geschaffenen KI-Tools unterschätzen.
Deshalb ist der gemeldete Vorfall bei Hugging Face zu einem Weckruf geworden. In diesem öffentlich gewordenen Vorfall suchte ein Frontier AI-Modell, das in einer kontrollierten Umgebung evaluiert wurde, angeblich nach einer Abkürzung. Um sein Ziel zu erreichen, überschritt der Agent dabei die vorgesehenen Grenzen und griff auf externe Ressourcen zu. Zusätzlich hinterließ er Informationen, die anderen Agenten helfen könnten, den Vorgang zu wiederholen. Ob man dies nun als frühe Anomalie oder als Vorgeschmack auf das betrachtet, was noch kommen wird, die Lehre daraus ist dieselbe: Unternehmen sollten nicht davon ausgehen, dass die Schutzmaßnahmen von heute auch für die Modelle von morgen Bestand haben werden.
Genau darin liegt der „T-Rex-Moment“. Das Problem besteht nicht darin, dass bahnbrechende KI-Modelle exponentiell leistungsfähiger werden könnten. Es liegt vielmehr darin, dass sie bereits fähig genug sind, kleine Schwachstellen miteinander zu verknüpfen. Sie sind bereit, neue Pfade einzuschlagen und schneller zu agieren, als traditionelle Sicherheitsprozesse Schritthalten können. Ein Modell muss im menschlichen Sinne nichts wollen, um Schaden anzurichten. Es braucht lediglich ein Ziel, ausreichende Zugriffsberechtigungen und unzureichende Kontrollmaßnahmen, um unvorhergesehene Wege zu gehen.
Handlungsbedarf zur Vorbereitung auf Frontier AI
Wird mit der Stärkung der Abwehr abgewartet, bis Frontier AI-Modelle kommerziell verfügbar sind, verstreicht wertvolle Zeit. Bis dahin könnten dieselben Fähigkeiten, die Unternehmen bei ihren Innovationsbestrebungen helfen, auch Angreifern in die Hände spielen. Beispiele dafür sind die Automatisierung der Informationsbeschaffung über Zielunternehmen, die Identifikation von Schwachstellen in deren IT-Umgebungen und das unbemerkte Aufspüren der wertvollsten Daten innerhalb des Netzwerks. Das Innovationstempo der KI lässt sich an dem messen, was bereits öffentlich bekannt ist. Allerdings werden weltweit unbekannte Entwicklungen in Frontier AI-Modellen stattfinden, die bisher ungeahnte Fähigkeiten weiter ausbauen.
Unternehmen sollten keine Zeit mehr verstreichen lassen, um die Grundlagen der IT-Sicherheit und der KI-Governance zu modernisieren. Die gute Nachricht ist, dass Unternehmen der anbrandenden Frontier AI-Welle nicht machtlos gegenüberstehen. Dieselben KI-Fähigkeiten, die neue Risiken schaffen, können auch die Abwehrmaßnahmen zum Eindämmen der Risiken stärken. Das Beispiel des Vorfalls bei Hugging Face zeigt die neue Realität auf, denn die Fähigkeiten der KI können in der Tat mit Hilfe der KI beherrschbar gemacht werden.
In dem Maße, wie sich Bedrohungen schneller und anpassungsfähiger weiterentwickeln, werden menschliche Teams ohne Unterstützung nicht mit der geforderten Reaktionsgeschwindigkeit Schritt halten können. Zu Verteidigungszwecken eingesetzte KI muss deshalb zu einem wesentlichen Bestandteil einer Cyber-Resilienzstrategie werden. Um das Bildnis der T-Rex-Analogie weiter zu spinnen, erinnern wir uns an die jeweiligen Abschlusssequenzen der Filme: Ein weiterer geschaffener Dinosaurier nimmt es jedes Mal im Kampf mit dem T-Rex auf und siegt.
Frontier AI muss nicht zum nächsten entwichenen Dinosaurier mutieren. Dafür sollten Unternehmen allerdings rechtzeitig auf neue Schutzmaßnahmen setzen wie beispielsweise:
- Verkleinerung der Angriffsfläche, indem unnötige Internet-Exposition beseitigt wird. Dies sind beispielsweise veraltete Anwendungen und VPN-Infrastrukturen. Was Angreifer nicht sehen können, können sie auch nicht ohne Weiteres als Einfallstor zweckentfremden.
- Den Einsatz von Zero Trust überall umsetzen und sich nicht mehr auf Perimeterschutz allein verlassen. Das Prinzip des Zugriffs mit den geringsten Berechtigungen verhindert, dass sich sowohl KI-Agenten als auch menschliche Angreifer frei in Netzwerkumgebungen bewegen können.
- Segmentierung kritischer Systeme und Daten, um die laterale Bewegung innerhalb von IT-/OT-Umgebungen einzuschränken. Hochwertige Daten, besonders wichtige Anwendungen und Authentifizierungssysteme sollten isoliert und streng kontrolliert werden.
- Überdenken der Patching-Strategie, da in einer KI-gesteuerten Bedrohungsumgebung Schwachstellen mit geringer Kritikalität miteinander verkettet werden können. Die Zugangswege zu kritischen Daten, internetexponierten Ressourcen und der Authentifizierungsinfrastruktur müssen neu bewertet werden.
- Governance des KI-Einsatzes im Unternehmen, da pauschale Verbote oft zu Schatten-KI führen. Indem man Mitarbeitenden genehmigte Tools mit klaren Kontrollen, Transparenz und Richtlinienvorgaben zur Verfügung stellt, anstatt nicht genehmigte Workarounds zu erzwingen, behält die IT die Kontrolle.
- Einsatz von KI zur Verteidigung und nicht nur zur Produktivitätssteigerung, da Sicherheitsteams KI-gestützte Erkennungs- und Reaktionsmaßnahmen benötigen, um mit KI-gestützten Angriffen Schritt zu halten.
Fazit
Alte IT-Systeme, die noch funktionieren, aber nicht angemessen abgesichert werden können, sind Zeitbomben im Zeitalter von Frontier AI. Wenn sie nicht sofort ersetzt oder gepatcht werden können, müssen sie isoliert und durch strengere Kontrollen abgeschirmt werden. Unternehmen, die jetzt planen und in den verbleibenden Monaten handeln, bevor kommerzielle Frontier AI-Modelle auf den Markt kommen, werden weitaus besser aufgestellt sein als ihre Mitbewerber.
Weitere Informationen
DATENSICHERHEIT.DE, 29.08.2025
PromptLock: ESET-Warnung vor erster autonomer KI-Ransomware
DATENSICHERHEIT.DE, 10.08.2026
Führungskräfte ins Visier: Ransomware-Akteure zielen auf Inhaber privilegierter Rechte
