Autonome KI-Agenten erfordern neue Sicherheitskonzepte, da statische Compliance-Kennzahlen dynamische Risiken nicht mehr erfassen. Entscheidend für die KI-Resilienz sind daher kontinuierliches Monitoring und Transparenz über die genutzten Daten.
Obwohl KI-Agenten im Betriebsalltag längst eigenständig Entscheidungen in Maschinengeschwindigkeit treffen, messen viele Unternehmen ihre Resilienz aber weiterhin mit Momentaufnahmen wie dem Compliance-Status, welche bei KI-Agenten indes bereits beim Erheben veraltet sind.
Darauf weist Emilee Tellez, „Field CTO“ bei Veeam Software warnend hin und führt weiter aus, warum solche Kennzahlen eine falsche Sicherheit suggerieren. Sie erläutert zudem, warum Unternehmen KI-Risiken bei jenen Daten unter Kontrolle bringen müssen, mit denen die Agenten arbeiten.
Tragweite der Veränderung der digitalen Infrastruktur nicht vollständig erfasst
„Fast alle Unternehmen werden gerade vom technologischen Fortschritt an die Schwelle der KI-Transformation getragen. Und sei es bewusst oder unbewusst: Viele von ihnen haben diese bereits überschritten und arbeiten bereits mit KI-Agenten.“
Innerhalb weniger Jahre habe sich Künstliche Intelligenz (KI) von einer neuartigen Technologie zu einem zentralen Bestandteil des Betriebs entwickelt. „Teilweise hatten es Unternehmen mit der Einführung von KI so eilig, dass sie die Tragweite der Veränderung ihrer digitalen Infrastruktur noch nicht vollständig erfasst haben“, berichtet Tellez.
Bereits heute kämen auf jeden menschlichen Mitarbeiter 109 nicht-menschliche Identitäten. Immer mehr von diesen träfen eigenständige Entscheidungen. Die größte Bedrohung gehe für viele Unternehmen damit nicht mehr von externen Angreifern aus, sondern von ihren eigenen autonomen Agenten.
Compliance-Status oder Backup-Abdeckung kaum mehr aussagekräftig
Eines habe sich aber nicht verändert – die Art und Weise, wie Unternehmen ihre Resilienz messen. Nach wie vor verließen sich viele auf Momentaufnahmen wie den Compliance-Status oder die Backup-Abdeckung.
„Doch sobald KI-Agenten ins Spiel kommen, sind solche Messwerte nahezu im selben Moment veraltet, in dem sie erhoben werden!“
Gleichzeitig sorgten sie dafür, dass sich Unternehmen sich in falscher Sicherheit wähnten. „Sicherheitsverantwortliche, die gerade ihre Sicherheitsbudgets und Prioritäten für 2027 festzurren, sollten sich deshalb einige unbequeme Fragen stellen“, rät Tellez.
KI-Agenten greifen auf bis zu 90 Prozent unstrukturierte Daten zu
Für einen derart tiefgreifenden Wandel habe sich dieser erstaunlich leise vollzogen. Grund dafür sei, dass die KI-Implementierung vielerorts neben sonstigen Entwicklungen und hinter anderen Prioritäten geschehen sei. Bei der Entwicklung und Integration von KI-Tools in die Unternehmensinfrastruktur habe der Fokus meist auf den Fähigkeiten und Effizienzgewinnen gelegen, welche diese versprochen hätten – und nicht auf ihren Auswirkungen auf die Daten.
„Mit jeder neuen Komponente im Stack wuchs jedoch auch die Zahl der KI-Agenten. Häufig sind diese mit weitreichenden Berechtigungen ausgestattet, die es ihnen erlauben, in Maschinengeschwindigkeit auf Daten zuzugreifen.“
Doch auch die Unternehmensdaten selbst hätten eine Entwicklung durchlaufen: „Vor einigen Jahren waren sie schlicht Informationen. Heute sind sie der ,Motor’, der KI antreibt, und liefern den entscheidenden Kontext für Entscheidungen. Für diese neue Rolle aufbereitet wurden sie jedoch kaum: Schätzungen zufolge sind bis zu 90 Prozent der Daten unstrukturiert, verfügen also über kein definiertes Modell, Schema oder festes Ordnungsformat.“
Es drohen fehlerhafte Entscheidungen und sogar Compliance-Verstöße
Einfacher gesagt: „Es handelt sich um Informationen, die nie dafür gedacht waren, von Maschinen gelesen zu werden, etwa alte Dateien, Chats und Gesprächsverläufe.“ Lesbar seien sie dennoch – und sie beeinflussten, wie die Agenten eines Unternehmens handeln. Das öffne fehlerhaften Entscheidungen die Tür und könne in manchen Fällen sogar zu Compliance-Verstößen führen.
Viele Unternehmen hätten die fast grenzenlosen Möglichkeiten wahrgenommen, welche KI-Tools ihnen eröffneten, würden jedoch deren weitreichende Auswirkungen auf ihre Daten übersehen.
Denn einige Sicherheitsverantwortliche seien nach wie vor überzeugt, ihre Compliance und Sicherheit vollständig im Blick zu haben. „Ohne vollständige Transparenz über ihren gesamten Datenbestand fehlt ihnen jedoch ein entscheidendes Puzzlestück!“, so Tellez.
Gängige Compliance-Kennzahlen bislang noch nicht weiterentwickelt
Wenn ein Agent unerwünschte Aktionen durchführt oder außer Kontrolle gerät, sie dies aus technischer Sicht nicht sofort erkennbar. Ein Unternehmen mit umfassendem Einblick in seinen Datenbestand könnte es aber durchaus bemerken. Mithilfe kontinuierlicher Überwachung ließe sich etwa erkennen, wenn ein Agent auf veraltete Daten zugreift.
„Das ist ein erstes Anzeichen dafür, dass die Qualität seiner Entscheidungen nachlässt.“ Die gängigen Compliance-Kennzahlen hätten sich bislang jedoch nicht weiterentwickelt, um diese Entwicklung abzubilden, denn sie setzten weiterhin auf statische statt auf kontinuierliche Messgrößen.
Tellez betont: „Auf Dauer wird das allerdings nicht funktionieren. Immer deutlicher zeigt sich: Es geht heute nicht mehr nur darum, ob Daten sicher sind, sondern auch darum, wie sie im Unternehmen genutzt werden.“ Daten könnten zwar auf dem Papier sicher sein und dennoch in fehlerhafte KI-Entscheidungen einfließen – dies könne spürbare geschäftliche Folgen haben.
Empfehlung, auf kontinuierliches Monitoring zu setzen und KI-Risiken an der Quelle abzusichern
Unternehmen könnten mit KI-Agenten nur dann Schritt halten, wenn sie auf kontinuierliches Monitoring setzten und KI-Risiken an der Quelle absicherten – und zwar bei jenen Daten, mit denen die Agenten arbeiten.
„Wer versucht, lediglich die Agenten selbst zu überwachen, wird immer zu langsam sein. Denn Unternehmen brauchen zunächst einmal Transparenz über die Daten, die diese Agenten nutzen.“ Mangelhafte Datenqualität und unerwartete Zugriffe könnten auf neue Risiken hinweisen, noch bevor diese zu falschen Entscheidungen führen.
Aber auch wenn sich die KI-Regulierung noch stark im Wandel befinde: Mit zunehmenden Compliance-Anforderungen werde sich ein solches Maß an Transparenz in jedem Fall auszahlen. In Europa erhöhten der „EU AI Act“ und die nationale Umsetzung der NIS2-Richtlinie schon jetzt den Druck auf Unternehmen, Risiken nachvollziehbar zu steuern und lückenlos zu dokumentieren.
Bei der Planung für 2027 gehört Transparenz der Daten in den Mittelpunkt
Wenn Führungskräfte nun ihre Sicherheitsbudgets und Prioritäten für 2027 festlegen, sollten sie sich nicht allein auf Audit-Ergebnisse verlassen. „Stattdessen sollten sie die Transparenz ihrer Daten in den Mittelpunkt stellen!“, legt Tellez nahe.
Sie müssten Lücken identifizieren und prüfen, ob sie Probleme bei Datenqualität, Zugriffen und Drift erkennen können, bevor diese die Entscheidungen ihrer Agenten beeinflussen. Solche Erkenntnisse könnten dabei helfen, Investitionen in die Resilienz im kommenden Jahr gezielter auszurichten.
Statt also zu fragen „Sind wir compliant?“, sollten Unternehmen laut Tellez eine andere Frage stellen: „Sind wir tatsächlich auf die KI-Transformation vorbereitet und können wir das auch belegen?“
Zentrale Erkenntnisse der DS-Redaktion
- Veraltetes Monitoring: KI-Agenten sind längst im Betriebsalltag angekommen und treffen autonome Entscheidungen in Maschinengeschwindigkeit – aber viele Unternehmen bewerten ihre Resilienz weiterhin mit nicht mehr adäquaten Methoden.
- Gefahr der Selbsttäuschung: Somit besteht die Gefahr der Irreführung, wenn nämlich solche Kennzahlen eine falsche Sicherheit suggerieren.
- Unzureichende Folgenabschätzung: Der Eifer etlicher Unternehmen bei der KI-Einführung hat zu einem Blinden Fleck hinsichtlich der Tragweite der Veränderung ihrer digitalen Infrastruktur geführt.
- Missverhältnis der Identitäten: Der „Faktor Mensch“ als Täter bei Datensicherheitsverletzungen tritt offenbar gegenüber KI-Agenten zurück, denn im Schnitt stehen jedem menschlichen Mitarbeiter laut einer Studie von paloalto NETWORKS inzwischen bereits 109 nicht-menschliche Identitäten gegenüber.
- Früherkennung gefragt: Da die Geschwindigkeit eine Rolle bei der Gefahrenabwehr spielt, sollten mangelhafte Datenqualität und unerwartete Zugriffe in Echtzeit untersucht werden.
Fazit der DS-Redaktion
Die rasante Einführung Künstlicher Intelligenz (KI) in den Betriebsalltag, insbesondere in Form autonom agierender Agenten, hat eine bereits im traditionellen IT-Kontext stark herausgeforderte Datensicherheits-Kultur an den Rand der Überforderung gebracht: Zu den herkömmlichen Schutzzielen, wie etwa Verfügbarkeit-Integrität-Vertraulichkeit, sind mit der KI-Einführung weitere dazugekommen: Etwa die Datenqualität als Basis des Erkenntnisgewinns für KI-Agenten, aber auch die Governance im Sinne der Verantwortungsübernahme für den KI-Einsatz im Kontext der Regularien und Haftungsrisiken.
Weitere Informationen
DATENSICHERHEIT.DE, 13.11.2026
Generative KI gefährdet Urteilsvermögen: Synergie aus TOM und versierten Mitarbeitern als Basis der Cyberresilienz
DATENSICHERHEIT.DE, 01.11.2026
KI-Agenten: Drei von zehn deutschen Unternehmen würden sie eigenmächtig handeln lassen
DATENSICHERHEIT.DE, 19.10.2026
Digital-Trust-Debatte um KI-Agenten: ISACA Europe Conference 2026 stellte Kontrolle in den Mittelpunkt