Ein KI-System vermag auf Basis fehlerhafter Daten binnen Sekunden Zugänge zu sperren oder automatisierte Gegenmaßnahmen auszulösen – noch bevor ein Mensch die Fehlentscheidung erkennt.
IT-Sicherheitsteams setzen Künstliche Intelligenz (KI), um entlastet zu werden und die Cyberabwehr zu stärken. Doch dass genau diese KI-Geschwindigkeit zum Risiko werden kann, wenn die zugrunde liegenden Daten nicht stimmen, adressiert Frank Lange, „Technical Director“ bei Anomali Deutschland, in seiner aktuellen Stellungnahme. Er führt aus, dass ein Analyst bei einem Fehlalarm Zeit verliert. Nun könnte ja ein KI-System eben auf Basis fehlerhafter Daten binnen Sekunden Zugänge sperren oder automatisierte Gegenmaßnahmen auslösen – noch bevor ein Mensch die Fehlentscheidung erkennt.
Gleichzeitig verbrächten IT-Sicherheitsspezialisten bereits heute 40 Prozent ihrer Arbeitszeit damit, Daten aus unterschiedlichen Systemen zusammenzuführen. Die Datengrundlage sei also damit entscheidender Faktor für den Einsatz von KI in der Cyberabwehr. Seine grundsätzliche Empfehlung fokussiert auf „Threat Intelligence“, welche – automatisiert zum Abgleich neu eintreffender Logdaten in den Sicherheitsprozess integriert – helfen könne, 60 bis 70 Prozent der Arbeitszeit zurückzugewinnen, welche sonst unproduktiv durch Nachverfolgen von Fehlalarmen verloren gehen würde.
Je ausgeprägter die KI-Autonomie desto größer auch der potenzielle Schaden
Lange beschreibt die Problemlage: Unternehmen investierten in KI, um ein echtes und stetig wachsendes Problem zu lösen – Sicherheitsteams seien überlastet, Analysten stießen an ihre Grenzen, und das Volumen der Bedrohungen übersteige das, was Menschen manuell bewältigen können. Was dabei unterschätzt werde: Je mehr Autonomie ein KI-System erhält, desto größer der Schaden, wenn es nicht akkurat entscheidet.
Ein Sicherheitsanalyst, welcher rein manuell auf einen Fehlalarm reagiert, verliere viel Zeit. Ein KI-System dagegen, welches trotz ungenauer Daten vor sich hinarbeitet, verliere dagegen keine Zeit: Es handele; es sperre Zugänge und löse automatisierte Gegenmaßnahmen aus.
Bis nun ein Mensch den Fehler erkennt, habe das System möglicherweise denselben Fehler mehrfach wiederholt. Die Geschwindigkeit, welche KI in der Sicherheit einerseits so wertvoll mache, sei dieselbe Geschwindigkeit, die durch einer fehlerhaften Datengrundlage zur Gefahr werden könne.
Die Gegenseite nutzt KI für Phishing-Kampagnen und Schadcode-Entwicklung
Berufseinsteiger in der IT-Sicherheit blieben im Schnitt zwölf bis 18 Monate in dieser Position, wobei jede Neubesetzung rund 50.000 Euro koste. Der Grund laut Lange: Eine Systemstruktur, die qualifizierte Fachleute zwingt, den größten Teil ihrer Arbeitszeit mit der Prüfung von Fehlalarmen zu verbringen statt mit interessanter Sicherheitsanalyse. KI-Systeme, die auf derselben Grundlage aufbauten, erbten dasselbe Problem und verstärkten es.
Das Bedrohungsumfeld verschärfe diese Situation zusätzlich. Angreifer nutzten heute KI, um Phishing-Kampagnen zu erzeugen, neue Schadsoftware-Varianten zu entwickeln und die technische Infrastruktur, von der aus sie agieren, kontinuierlich zu wechseln. Das Volumen eingehender Bedrohungen übersteige dauerhaft das, was Sicherheitsteams manuell bewältigen könnten.
Dabei verbrächten IT-Sicherheitsspezialisten 40 Prozent ihrer Arbeitszeit damit, Daten aus verschiedenen Systemen zusammenzuführen und aufzubereiten, statt sich produktiv auf die eigentliche Sicherheitsarbeit zu konzentrieren. Auf Vorstandsebene könnten Unternehmen wohl berichten, wie viele Alarme sie bearbeitet haben. Was sie indes nicht berichten könnten, sei, ob sie heute sicherer sind als im vergangenen Jahr.
Zentrale Frage vorab zu klären: Was passieren muss, wenn die KI fehlerhaft arbeitet
Der Grund für diese Unsicherheit: Sicherheitssysteme seien darauf ausgelegt, Alarme zu zählen, nicht Schutzwirkung zu messen. Dies mache es strukturell unmöglich zu belegen, ob Investitionen in Sicherheit wirklich wirken. Diese Lücke sei kein Problem der Darstellung – sondern ein Problem der zugrundeliegenden Systemstruktur.
Unternehmen stellten beim KI-Einsatz selten die wichtigste Frage: „Was passiert, wenn die KI falsch liegt?“ Bei einem menschlichen Analysten koste eine falsche Entscheidung Minuten.
Bei einem KI-System, welches mit der Geschwindigkeit einer Maschine mit ungeprüften Daten arbeitet, dauere es Sekunden, bis der Fehler passiert ist, und Stunden, bis er in allen betroffenen Systemen rückgängig gemacht werden kann. „Das ist kein theoretisches Risiko. Das ist die Realität, mit der die meisten Unternehmen gerade konfrontiert sind!“, gibt Lange zu bedenken.
Datengrundlage für das KI-System beeinflusst Ausmaß des Schadens
Verlässliche KI in der Cybersicherheit brauche eine andere Grundlage. Anomali gleicht laut Lange jeden eingehenden Indikator über eine Bedrohung mit aktuellen Angriffsdaten und der eigenen IT-Umgebung des Unternehmens ab, bevor er einen Analysten erreicht oder eine automatisierte Reaktion auslöst.
Analysten entscheiden damit mehr und nicht weniger.
Sie konzentrierten sich aber auf jene Fälle, welches menschliches Urteilsvermögen erfordern – anstatt ihre Arbeitszeit mit Alarmen zu vergeuden, welche nie hätten ausgelöst werden sollen. Bei Kunden, die auf diesen Ansatz umgestellt haben, gewinnen Analysten nach Langes Erfahrung 60 bis 70 Prozent ihrer Zeit zurück, die durch Fehlalarme verloren geht.
Zentrale Erkenntnisse der DS-Redaktion
- Die Ambivalenz der Wirkung moderner IT-Systeme sollte stets vorab ins Kalkül gezogen werden: Der vermeintliche Geschwindigkeitsvorteil der Reaktion kann auf Basis einer ungeeigneten Datengrundlage genau ins Gegenteil verkehrt werden und Schäden verursachen – autonom agierende KI verschärft die Situation.
- Die Qualität der KI und der erhoffte Nutzen hängen unmittelbar von der Qualität der als Referenz dienenden Datengrundlage ab.
- Fehlalarme haben ebenso wie unterbliebene berechtige Alarmmeldung ein großes Schadenspotenzial für Unternehmen.
- IT-Anwender und somit auch KI-Nutzer sollten sich der Werkzeugeigenschaft solcher Systeme bewusst sein und diese mit realistischen Erwartungen einsetzen – sich also auch Fehlfunktionen vorbereiten.
- Die hohe Kunst des effizienten wie effektiven KI-Einsatzes liegt in einer zielorientierten, synergetischen Wechselwirkung zwischen KI-Systemen und menschlichen Mitarbeitern.
Fazit
KI ist nur so gut wie ihre Datengrundlage und kein Ersatz für menschliche Verantwortung. Fehlalarme und Fehlentscheidungen bergen erhebliche Risiken insbesondere bei autonomer KI. Ein nachhaltiger Nutzen entsteht erst durch das gezielte Zusammenspiel von KI und menschlicher Expertise.
Weitere Informationen
DATENSICHERHEIT.DE, 18.07.2026
KI-Einsatz: Blinder Fleck der Cybersicherheit liegt in den Daten
DATENSICHERHEIT.DE, 12.02.2026
Datenschutz in Echtzeit: Wie Daten-Streaming die Kunden in einer KI-gesteuerten Welt schützt
DATENSICHERHEIT.DE, 15.06.2026
Wechselwirkung zwischen KI und Cybersecurity als zentrale Führungsfrage 2026
