KI-Compliance ist nur der Anfang: Die Datenqualität entscheidet über die Sicherheit

Ein Kommentar von Andre Troskie, EMEA Field CISO, Veeam Software

Es ist eine geschäftige Zeit für CISOs in Unternehmen, die innerhalb der EU tätig sind. Sie müssen sich nicht nur mit den bevorstehenden Fristen des EU-KI-Gesetzes auseinandersetzen (bei denen sich die Zielvorgaben ständig zu verändern scheinen), sondern sich nun auch mit den neuen Ressourcen befassen, die im EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz angekündigt wurden.

Dass all diese Aufmerksamkeit auf die KI-Sicherheit gerichtet ist, ist an sich keine schlechte Sache, aber man könnte argumentieren, dass die Teams daran arbeiten, die falschen Ziele zu erreichen.

Man ist davon ausgegangen, dass die KI eines Unternehmens sicher ist, wenn sie die Compliance-Standards erfüllt und in diesen neuen Test-Sandboxes gute Leistungen erbringt.

Doch wie bereits bei früheren Cybersicherheitsvorschriften gesehen, ist die Einhaltung offizieller Vorschriften nicht gleichbedeutend mit betrieblicher Sicherheit – weit gefehlt.

In diesem Fall sind die Daten das fehlende Glied, das sowohl Behörden als auch Unternehmen bisher übersehen haben und das, obwohl es ihnen direkt vor Augen liegt. Denn die Einhaltung von Compliance-Standards und gute Leistungen in einer sicheren KI-Testumgebung dienen lediglich dazu, technisch sichere Modelle zu erstellen. Und sobald man diese Modelle mit redundanten, obsoleten und trivialen (ROT) Daten füttert, sind all diese Tests zunichte gemacht.

Viel Trubel, wenig Substanz

Die letzten Wochen waren für die EU-KI-Regulierung besonders turbulent. Zunächst wurden die Fristen des EU-KI-Gesetzes angepasst. Entscheidend ist, dass die wichtigste Frist für die Einhaltung der Vorschriften bei KI, die in risikoreichen Umgebungen eingesetzt wird, von August 2026 auf Dezember 2027 verschoben wurde, vor allem deshalb, weil die branchenweiten technischen Standards, die als Maßstab für die Einhaltung der Vorschriften dienen, noch nicht vorliegen.

Und nur wenige Wochen nach der Bekanntgabe dieser Verschiebung veröffentlichte die EU den Aktionsplan für Cybersicherheit und künstliche Intelligenz, unter anderem um diese Lücke bei der Konformitätsprüfung zu schließen. Anstatt neue rechtliche Auflagen einzuführen, verspricht der Plan den Zugang zu neuen sicheren Testplattformen, Leitfäden und Tools. Diese dienen der Bewertung fortschrittlicher KI vor ihrer Markteinführung und sollen gewährleisten, dass neue Modelle sicher und in Übereinstimmung mit EU-Vorschriften wie dem besagten KI-Gesetz und der NIS2-Richtlinie eingesetzt wird.

All dies wird zwar sicherlich zur Entwicklung sicherer KI-Modelle beitragen, ist jedoch nur ein Teil des Puzzles. Sicherheitsteams können und werden unzählige Stunden damit verbringen, Code zu isolieren und die notwendigen Nachweise zu sammeln, um wertvolle Compliance-Zertifikate zu erhalten. Dabei laufen sie jedoch Gefahr, die andere Seite der KI aus den Augen zu verlieren. Man kann ein Tool entwickeln, das von Grund auf sicher und konform ist, doch bei unsachgemäßer Nutzung kann es dennoch gegen Compliance-Vorgaben verstoßen und Chaos verursachen.

Statistisch kommen auf einen Mitarbeiter durchschnittlich 82 nicht-menschliche Identitäten und autonome Agenten in modernen Unternehmensumgebungen. Bei jedem Sicherheitsverantwortlichen sollten bei dieser Zahl die Alarmglocken läuten. Das operative Risiko hat sich mittlerweile weit über den menschlichen Missbrauch hinaus auf Fehler in Maschinen-Geschwindigkeit ausgeweitet.

Würde ein menschlicher Nutzer einen Fehler machen, würde dieser in der Regel entdeckt und gemeldet, bevor etwas Katastrophales passieren könnte; bei autonomen Modellen hingegen können fehlerhafte Daten selbst das sicherste Modell unbemerkt beeinträchtigen und die Ergebnisse verfälschen, ohne die üblichen Alarme auszulösen. Und das alles auf technisch konformen Systemen.

KI-Compliance ist nicht gleich KI-Sicherheit

Da sich die gesamte Aufmerksamkeit auf die KI-Modelle selbst konzentriert, sind die Unternehmensdaten etwas aus dem Blickfeld geraten. Und in den Diskussionen, die tatsächlich stattfanden, ging es größtenteils um die Sicherheit der Daten und weniger um deren Qualität, was das Problem noch verschärft hat.

Heute liegen fast 80 % an Unternehmensdaten in unstrukturierten Formaten vor, die mit ROT-Dateien überfüllt sind. Es ist das Ergebnis jahrzehntelanger Anhäufung in veralteten Cloud-Speichern und wirkt wie ein langsames Gift auf ein KI-Modell. Ganz gleich, wie technisch sicher es ist und wie gut es in den vorgeschlagenen EU-Sandboxen abgeschnitten haben mag: Die Einspeisung von mit ROT-Dateien kontaminierten unstrukturierten Daten in ein Modell wird verheerende Folgen haben. Es wird Halluzinationen entwickeln, unsinnige Entscheidungen treffen, verzerrte Analysen verwenden und gegen Compliance-Vorgaben verstoßen, wenn es mit veralteten Daten und doppelten Datensätzen arbeitet.

Und es gibt weitere Nachteile. Die Verarbeitung all dieser nutzlosen Daten, von denen ein Großteil zudem doppelt vorliegt, wirkt wie eine unsichtbare Belastung für Unternehmensbudgets: Teure GPU-Rechenzyklen werden dafür verschwendet, und kostspielige Cloud-Infrastruktur wird für die Indizierung von Daten eingesetzt, die keinen materiellen Wert und keinen ROI haben.

Allein in diesem Jahr beliefen sich die KI-Investitionen namhafter Technologieunternehmen auf über 650 Milliarden US-Dollar und keiner weiß, wie hoch die Ausgaben in einem weiteren Jahr sein könnten. Während die EU-Vorschriften großen Wert auf die Sicherheitskosten der KI legen, haben sie bislang die Kosten für die Daten, die hinter dieser KI stehen, nicht berücksichtigt.

Zuerst die Fundamente prüfen, bevor man mit dem Hausbau beginnt

Das soll natürlich nicht heißen, dass man diese regulatorischen Standards ignorieren sollte, um voll und ganz auf Daten zu setzen. Es geht darum, ein Gleichgewicht zwischen beiden zu finden: Man sollte Tests und Zertifizierungen auf Modellebene vorantreiben und gleichzeitig die Dateninfrastruktur in Ordnung bringen. Dies wird zunehmend entscheidend werden, da das EU-Gesetz in den nächsten Jahren vollständig in Kraft tritt und Organisationen verpflichtet sein werden, die Herkunft von Trainingsdatensätzen und generierten Inhalten nachzuverfolgen, zu dokumentieren und zu verifizieren.

Unternehmen müssen nicht nur eine gründliche Prüfung und Kategorisierung ihres Datenbestands durchführen, sondern auch all diese ROT-Daten bereinigen, um eine saubere Grundlage für den Einsatz von KI-Modellen zu schaffen. Dieser Schritt ist unerlässlich, um von statischen, saisonalen Compliance-Prüfungen zu einer kontinuierlichen Nachverfolgung der Herkunft und Datensatzklassifizierung überzugehen, die für einen vollständig sicheren KI-Betrieb erforderlich ist. Diese Maßnahmen fließen in die Modelle selbst ein und schaffen Systeme, die sowohl technisch als auch praktisch konform sind.

Über die aktuellen regulatorischen und betrieblichen Herausforderungen hinaus kann sich eine umfassende Überarbeitung der Dateninfrastruktur heute auch in Zukunft auszahlen. Je weiter die autonome Welt voranschreitet und je stärker KI-Agenten in Arbeitsabläufe integriert werden, desto entscheidender wird ein derart präziser Einblick in die Datenschicht sein, um fehlerhafte Dateneingaben mit minimalen Unterbrechungen zu isolieren und rückgängig zu machen. Anstatt den gesamten Betrieb stillzulegen, können Teams auf der Ebene einzelner Datensätze agieren, um Fehler punktuell zu beheben. Wer heute hier einen Vorsprung erlangt, wird daher auch in Zukunft mit weniger Unterbrechungen konfrontiert sein.

Vorwärts gehen, aber nicht vergessen, nach unten zu schauen

Natürlich sollten zahlreiche Ressourcen dafür eingesetzt werden, die so wichtigen EU-Compliance-Fristen einzuhalten und die versprochenen Sandbox-Funktionen optimal zu nutzen, aber dabei dürfen die Daten hinter den Modellen nicht vernachlässigt werden. Man sollte sich die Frage stellen: „Ist unser KI-Modell sicher?“, und anschließend nachhaken: „Sind die Daten, mit denen unser Modell gefüttert wird, verifiziert, korrekt und sauber?“.

Denn ein EU-Konformitäts- oder Testzertifikat ist nur ein teures Stück Papier, wenn das Modell selbst dann mit veralteten oder fehlerhaften Daten gefüttert wird. Diese Compliance-Sandboxen klingen vielleicht großartig, aber echte KI-Sicherheit wird nicht durch sie erreicht; sie entsteht durch die weniger aufregende, kontinuierliche Arbeit an der Aufrechterhaltung einer sauberen Datenpipeline. Das mag nicht glamourös sein, ist aber effektiv.

Weitere Informationen

DATENSICHERHEIT.DE, 22.08.2026
AI Act als Motivation: KI-Erfolgsfaktor Vertrauen

DATENSICHERHEIT.DE, 16.08.2026
EU AI Act: Handlungsdruck auf IT- und Datenverantwortliche im KI-Umfeld bleibt hoch

DATENSICHERHEIT.DE, 05.08.2026
EU AI Act: Aktuelle KI-Vorfälle unterstreichen Notwendigkeit der Regeln

DATENSICHERHEIT.DE, 02.08.2026
AI Act: Ab 2. August 2026 weitere Regeln in Kraft – indes noch viele offene Fragen