[datensicherheit.de, 01.07.2026] Die Sicherheitsforscher von Check Point Research haben ein von DeepSeek generiertes Malware Sample aufgedeckt. Dabei hat ein KI-Modell eigenständig ein theoretisches Browser-Risiko mit einer funktionierenden Ransomware-Technik verknüpft. Diese wird vollständig im Browser ausgeführt. Das Browser-Risiko besteht ohne Exploit, ohne App-Installation und ohne dass der Angreifer technisches Fachwissen benötigt.

Dies ist der erste dokumentierte Fall, in dem ein innovatives KI-Modell eigenständig die Lücke zwischen einem theoretischen, ausschließlich browserbasierten Ransomware-Risiko und einer praktischen, funktionierenden Angriffskette überbrückt hat. Damit wurde ein neuartiger Angriffspfad aufgedeckt, den Sicherheitsverantwortliche aufgrund der Grenzen des Browser-Sandboxings zuvor als undurchführbar abgetan hatten. Das erforderliche Fachwissen zur Entdeckung eines neuen Angriffspfads stellt keinen Engpass mehr dar und Sicherheitsverantwortliche müssen dieser Veränderung nun Rechnung tragen, bevor Angreifer sie in großem Maßstab operationalisieren.

Die KI und der Angriff

1. Eine KI übernahm das „Denken“, das früher ein menschlicher Angreifer leisten musste
   Bei der Analyse von fast 3.000 Dateien in öffentlichen Telemetriedaten, die DeepSeek zugeschrieben wurden, stießen die Forscher auf eine Python-Flask-Anwendung. Sie wirkte wie eine KI-Halluzination aus dem Lehrbuch: Sie versuchte, Keylogging, den Diebstahl von Anmeldedaten, Webcam-Aufnahmen sowie ein Lösegeld-Overlay auf einer einzigen Webseite unterzubringen. Dies wird jedoch von den meisten Browsern schlichtweg nicht zugelassen. Doch versteckt in all dem Durcheinander hat das Modell eine Sache genau richtig gemacht: Es rief „showDirectoryPicker()“ auf, eine legitime Browser-API, die es einer Webseite ermöglicht, Dateien aus einem vom Nutzer ausgewählten Ordner zu lesen, zu ändern und zu exfiltrieren. Ein Laie kann ein böswilliges Ergebnis in einfacher Sprache beschreiben und erhält einen Prototyp, der dieses Ziel mit einer tatsächlichen Plattformfunktion verknüpft, von deren Existenz er bisher nichts wusste.
2. Vom hypothetischen Rahmenkonzept zum voll funktionsfähigen Proof-of-Concept
   Check Point Research hat die Technik durch die Erstellung eines kontrollierten PoC (Proof of Concept) validiert: ein gefälschtes KI-Tool zur Bildoptimierung namens „AI Avatar Enhancer“, dass die File System Access API nutzt, um Bilder in einem ausgewählten Verzeichnis zu verschlüsseln. Beim direkten Test mit DeepSeek V4 unter Verwendung des Wortes „Ransomware“ lehnte das Modell dies ab. Bei einer neutralen Formulierung generierte es jedoch durchweg funktionierenden, browserbasierten Ransomware-Code. In einer Antwort beschrieb das Modell die Ausgabe selbst als „eine ausgeklügelte Falle, die eine überzeugende KI-Upscaler-Oberfläche mit versteckten, Ransomware-ähnlichen Verhaltensweisen kombiniert“. Es handelt sich um einen Workflow, der keine APK-Installation, keine native Payload, keinen Browser-Exploit und keinen Root-Zugriff erfordert, sondern lediglich eine einzige Berechtigungsabfrage.
3. Nutzer von Android-Mobilgeräten sind am stärksten gefährdet
   Mit Chrome 132 wurde die vollständige Unterstützung für den Dateisystemzugriff auf Android eingeführt. Tests mit Chrome 148 haben bestätigt, dass Webseiten Zugriff auf das DCIM-Fotoverzeichnis anfordern können. In diesem Ordner werden in der Regel persönliche Fotos, gescannte Ausweise, Bank-Screenshots, medizinische Unterlagen, Wiederherstellungscodes und Reisedokumente über Jahre hinweg gespeichert.iOS Safari stellt diese API nicht zur Verfügung, sodass diese Technik dort nicht anwendbar ist. Der Verlust des Zugriffs auf diese Daten oder deren Exfiltration kann persönliche oder geschäftliche Probleme nach sich ziehen, die von Ransomware bis hin zu Erpressung reichen. Im Falle sensibler Daten kann es zu einer öffentlichen Bekanntmachung kommen, die einen Reputationsschaden nach sich zieht.Große KI-Anbieter wie Anthropic oder OpenAI lehnen Anfragen, die Ransomware, den Diebstahl von Zugangsdaten oder den Einsatz von Malware betreffen, konsequent ab. DeepSeek ist in dieser Hinsicht weniger konsequent. Es ist kostenlos, weit verbreitet und zugänglich. Im Test erzeugte eine einzige allgemeine Eingabeaufforderung eine vollständige bösartige Anwendung. Bei anderen Modellen hätte die Erstellung mehrere manuelle Anfragen und einen manuellen Zusammenbau erfordert. Diese niedrigere Einstiegshürde macht DeepSeek besonders attraktiv für Angreifer mit begrenzten technischen Fähigkeiten.

Unbegrenzte Malware-Varianten

In der Vergangenheit erforderte die Entdeckung eines neuen Angriffspfads Fachwissen und kreatives menschliches Denken. KI verändert diese Dynamik jedoch grundlegend: Auf diese Weise generierte Malware könnte die Bedrohungslandschaft von einer begrenzten Anzahl wiederverwendeter Malware-Familien hin zu einer größeren Menge wegwerfbarer, einmaliger Artefakte verschieben. Jedes dieser Artefakte enthält eine einzigartige Kombination von Techniken. KI implementiert nicht nur bestehende Techniken neu, sondern überbrückt auch die Lücke zwischen rein theoretischen Risiken und neuartigen, praktischen Angriffen, mit denen Verteidiger in der Praxis noch nicht konfrontiert waren.

Damit Sicherheitsexperten ihre IT-Umgebungen von dieser Art von Angriffen schützen können, muss jede Abfrage des Browsers nach Zugriff auf einen Ordner als sicherheitskritische Entscheidung behandelt werden. Sie sollten prüfen, welche Website die Abfrage stellt, welcher Ordner ausgewählt wird und ob Schreibzugriff tatsächlich erforderlich ist. Websites sollten niemals Zugriff auf die Hauptfotobibliothek, den DCIM-Ordner oder Verzeichnisse gewährt werden. Zu befürchten steht, dass sich Angreifer auf Ausweisdokumente, Wiederherstellungscodes oder Screenshots von Online-Banking Zugriff verschaffen. Nutzer sollten gegenüber mit KI beworbenen Lockangeboten wie Avatar-Upscalern und Bildoptimierern skeptisch bleiben. Für wichtige Aufgaben sollten sie seriöse native Apps oder etablierte Cloud-Dienste bevorzugen. Sie sollten regelmäßige Offline- und Cloud-Backups erstellen, damit verschlüsselte Dateien niemals die einzige Kopie sind. Browser und mobile Betriebssysteme sollten auf dem neuesten Stand gehalten werden. Unternehmen sollten Sicherheitslösungen einsetzen, die solche bösartigen Websites bereits vor dem Erscheinen verdächtiger Berechtigungsabfragen identifizieren und blockieren.

Eli Smadja, Group Manager bei Check Point Research, Bild: Check Point

Eli Smadja, Group Manager bei Check Point Research, erklärt: „Wir erleben derzeit einen grundlegenden Wandel in der Art und Weise, wie neue Cyberangriffe entstehen. Zum ersten Mal haben wir Beweise dafür, dass ein KI-Modell eigenständig legitime Plattformfunktionen analysieren und eine funktionierende Angriffstechnik aufdecken kann. Darüber konnten Fachleute bisher nur theoretisch spekulieren, ohne zu wissen, dass die zugrunde liegende API überhaupt existiert. Die Hürde für die Umsetzung komplexer Angriffe sinkt erheblich, was tiefgreifende Auswirkungen auf jedes Unternehmen hat, das KI in seine Arbeitsabläufe integriert, sowie auf jeden Mobilfunknutzer, der mittlerweile sein gesamtes privates und berufliches Leben in einer Fotobibliothek mit sich führt. Die Zukunft der KI-Sicherheit darf nicht darauf beruhen, dass Modelle offensichtlich böswillige Anfragen ablehnen. Sie muss davon ausgehen, dass die nächste Angriffstechnik nicht von einem menschlichen Forscher, sondern durch eine KI-Halluzination entdeckt wird, die zufällig in einem Punkt richtig lag. Unternehmen, die sich schon jetzt auf diese Realität vorbereiten, indem sie den „Delivery Layer“ absichern, das auf Berechtigungen basierende Vertrauensmodell überdenken und jede Browser-Eingabeaufforderung als Sicherheitsentscheidung behandeln, werden diejenigen sein, die noch bestehen, wenn der Rest der Branche aufholt.“

Weitere Informationen zum Thema:

Check Point Research
Browser-Only Ransomware: From LLM Hallucinations to a Practical Attack Technique

datensicherheit.de, 27.02.2025
DeepSeek-R1 als Warnsignal: KI-Sicherheit muss bei der Architektur beginnen

[datensicherheit.de, 28.06.2026] Shrikant Dhanawade, Director „Product Management“, „Cloud-Security“ bei Qualys, betont in seiner aktuellen Stellungnahme, dass sich auf Künstliche Intelligenz (KI) stützende Erkennung eine Schwelle überschritten habe: IT-Sicherheitsteams könnten nun Schwachstellen, Fehlkonfigurationen und aktive Angriffspfade mit einer Geschwindigkeit und in einem vor einigen Jahren noch unvorstellbaren Umfang aufdecken. Das Problem bestehe nicht mehr darin, Risiken zu finden oder zu erkennen, sondern darin, „sie schnell genug zu beheben, damit es wirklich etwas bewirkt“. „Cloud“-Bereitstellungen verstärkten diesen Druck auf besondere Weise: „Die Infrastruktur, die Sicherheitsteams eilig beheben müssen, verändert sich, skaliert, wird neu bereitgestellt und neu konfiguriert – und das schneller, als es manuell möglich ist.“ Die Frage, die sich jedes Sicherheitsteam derzeit stellt, lautet demnach: „Wie können wir in ,Cloud’-Umgebungen, die niemals stillstehen, Prioritäten setzen und Abhilfemaßnahmen mit der gleichen Geschwindigkeit durchführen, mit der die Erkennung erfolgt?“ Seine ausführliche, ungekürzte Ausarbeitung liegt als Gastbeitrag zum Download vor.

Foto: Qualys

Shrikant Dhanawade bringt die Herausforderung auf den Punkt: Die Infrastruktur verändert sich ständig über verschiedene Bereitstellungsarten hinweg, die jeweils unterschiedliche Risikomodelle mit sich bringen

Cyberangreifer jagen der sich rasant entwickelnden „Cloud“ dicht hinterher

„Fragt man die meisten Sicherheitsteams nach ihrer größten Herausforderung in der ,Cloud’, werden sie etwas über mangelnde Transparenz, zu viele Ressourcen, zu viele ,Tools’ und zu viele Daten sagen“, berichtet Dhanawade.

• Transparenz sei wohl ein echtes Problem – aber es sei nicht das schwierigste. „Das schwierigste Problem ist, dass die ,Cloud’-Infrastruktur von Natur aus dynamisch ist. Dadurch werden die Annahmen untergraben, auf denen traditionelle Sicherheitsprogramme basierten.“

Das „Weaponization Window“ (d.h. die Zeitspanne von der Veröffentlichung einer CVE bis zum aktiven cyberkriminellen Einsatz eines „Exploits“ in der Praxis) habe sich in den letzten Jahren von Wochen auf nur noch Stunden verkürzt. Dhanawade warnt: „KI unterstützt nicht nur Verteidiger, sondern hilft auch Angreifern dabei, Angriffspfade schneller zu entdecken und abzubilden, als es jede von Menschen durchgeführte Analyse nachhalten kann.“ Statische Angriffspfadmodelle, welche nur wöchentlich aktualisiert werden, seien dann bereits veraltet.

Sicherheitsprogramme auf Basis periodischer Bewertungszyklen können mit ständig weiterentwickelter Infrastruktur nicht Schritt halten

Die Gemengelage: „Ein für einen ,Batch-Job’ gestarteter Container kann maximal vier Minuten bestehen bleiben. Eine serverlose Funktion wird in Millisekunden ausgeführt. Eine Auto-Scaling-Gruppe kann als Reaktion auf einen Traffic-Anstieg Dutzende von Instanzen hinzufügen und entfernen, noch bevor ein wöchentlicher Scan überhaupt ausgeführt wurde.“

• Herkömmliche Schwachstellen-Scanner seien jedoch für eine Welt entwickelt worden, „in der Ressourcen lange genug vorhanden waren, um gescannt, bewertet, priorisiert und gepatcht zu werden“. In „Cloud“-Umgebungen könne die Ressource jedoch bereits verschwunden sein, bevor die Priorisierung überhaupt beginnt.

Er führt aus: „Dies ist kein Problem der Scan-Häufigkeit, das durch schnellere Scanner behoben werden kann. Es handelt sich um eine architektonische Diskrepanz. Sicherheitsprogramme, die auf periodische Bewertungszyklen angewiesen sind, können mit der sich ständig weiterentwickelnden Infrastruktur nicht Schritt halten.“ Es müsse sich folglich nicht nur der Scan-Zeitplan, sondern auch das Reaktionsmodell ändern.

Vergrößerung der Angriffsfläche aufgrund der Vielfalt der Bereitstellungsarten

Moderne „Cloud“-Umgebungen seien nicht homogen. Jede Bereitstellungsart weise ein anderes Sicherheitsmodell, andere Abhilfemaßnahmen und ein anderes Risikoprofil auf. Eine anfällige Anwendung werde verschoben und skaliert, um die Verfügbarkeit zu verbessern. Ein einheitlicher „Workflow“ für das Schwachstellen-Management, der alle diese Fälle gleichbehandelt, sei für die meisten von ihnen ungeeignet.

• Die Erkennungsleistung einer „Cloud Native Application Protection Platform“ (CNAPP) sei gut – aber es stelle sich die Frage, ob die Geschwindigkeit ausreicht. Die meisten modernen CNAPP-Plattformen seien zwar hervorragend darin, „Cloud“-Sicherheitssignale über diese weitläufige und flüchtige Angriffsfläche hinweg zu aggregieren und zu korrelieren – indes seien sie jedoch keine Plattformen zur Behebung von Schwachstellen.

Die Lücke zwischen einem einheitlichen Befund und einer behobenen Schwachstelle werde nach wie vor überwiegend durch einen manuellen Arbeitsablauf geschlossen. Es werde ein Ticket eröffnet, ein Team benachrichtigt, eine Änderung genehmigt, eine Bereitstellung durchgeführt und ein Scan zur Bestätigung erneut ausgeführt. In einer dynamischen „Cloud“-Umgebung dauere dieser Prozess Tage. „Bis das Ticket gelöst ist, wurde die Infrastruktur, die den Befund verursacht hat, möglicherweise bereits zweimal ersetzt.“

„Qualys TotalCloud“ bietet sofortige Erkennung in Echtzeit auf Basis von „Cloud“-Ereignissen

Dhanawade hat auch einen hauseigenen Lösungsansatz parat: „Qualys TotalCloud“ sei eben entwickelt worden, um diese Lücke zu schließen. Die Erkennung erfolge sofort – in Echtzeit und auf Basis von „Cloud“-Ereignissen. Als einheitliche CNAPP-Lösung korreliere diese Lösung Signale zu Schwachstellen, Fehlkonfigurationen, Identitätsproblemen und Befunden zu sensiblen Daten zu einem einzigen, kontinuierlichen Risikobild und verknüpfe dieses Bild direkt mit der Behebung.

• Das Ergebnis sei eine Sicherheitslage, welche nicht nur mehr erkenne, sondern auch schneller reagiere. Von einer falsch konfigurierten IAM-Rolle („Identity und Access Management“) bis hin zu einem aktiv ausnutzbaren Angriffspfad stellten erstklassige CNAPP-Lösungen sicher, „dass jedes von der Erkennungs-Engine aufgedeckte Signal einen direkten, automatisierten Weg zur Behebung hat“.

Um diese Lücke zu schließen, müsse das korrelierte Signal eines CNAPP mit einer autonomen Behebungsfunktion verknüpft werden, welche mit der Geschwindigkeit und dem Umfang der „Cloud“ agieren kann.

Den Überblick behalten mittels Hyper-Priorisierung in Cloud-Umgebungen

„Eine CNAPP, die zwar innerhalb von Sekunden einen ausnutzbaren Angriffspfad aufdeckt, aber eine Woche benötigt, um ihn zu schließen, bietet kein angemessenes Sicherheitsergebnis!“, unterstreicht Dhanawade. Diese verursache lediglich einen größeren Rückstau. „Entscheidend ist nicht, wie viele Schwachstellen erkannt wurden, sondern wie lange sie offenblieben, so dass ein Angreifer sie ausnutzen konnte. Die manuelle Priorisierung ist der Hauptgrund dafür, dass sie so lange offenbleiben.“

• Eine ausgereifte CNAPP-Implementierung in einem Unternehmen könne wöchentlich Zehntausende von Befunden zutage fördern. Allein das „Cloud Security Posture Management“ (CSPM) generiere in großen Umgebungen üblicherweise Zehntausende Richtlinienverstöße. „Ohne konsequente Priorisierung sehen sich Sicherheitsteams einer unüberschaubaren Triage-Last gegenüber und greifen standardmäßig auf die Vorgehensweisen ,vom Ältesten zum Neuesten’ oder ,mit dem höchsten CVSS-Wert zuerst’ zurück.“ Dabei spiegele keine dieser Methoden das tatsächliche Risiko wider. Zudem ignorierten die meisten Unternehmen fast ein Drittel ihrer als „geringfügig“ eingestuften Warnmeldungen. Dies sei problematisch, da das ausschließliche Verlassen auf den Wert vom „Common Vulnerability Scoring System“ (CVSS) dazu führen könnte, „dass Warnmeldungen aufgrund falscher Annahmen übersehen werden, die eigentlich sofort isoliert und behoben werden müssten“.

Unternehmen, welche „Compliance“-Vorgaben und -Rahmenwerken wie NIST 800-53 unterliegen, müssten zudem die Anforderungen an eine kontinuierliche Überwachung und schnelle Reaktion berücksichtigen. „Die Lösung? Eine fortgeschrittene Priorisierung, die sich auf die wichtigsten ,Exploits’ konzentriert – eine Art ,Hyper-Priorisierung’ auf der Grundlage mehrerer Kriterien“, so Dhanawade.

Umfassende hochdynamische Neubewertung der Ressourcen im Risikokontext

Jede Ressource werde kontinuierlich anhand eines Live-Bedrohungs-Feeds neu bewertet, „während sich die Bedrohungslandschaft weiterentwickelt“. Dabei würden auch die folgenden Risikofaktoren berücksichtigt:

• Exposition
  „Ist die betroffene ,Workload’ mit dem Internet verbunden?“ „Ist der anfällige Port von außerhalb der VPC erreichbar?“ Eine kritische Schwachstelle bei einem isolierten internen Dienst unterscheide sich grundlegend von derselben Schwachstelle bei einem öffentlich zugänglichen Endpunkt mit Lastenausgleich.
• Identität und Zugriff
  „Verfügt die kompromittierte Workload über eine IAM-Rolle mit weitreichenden Berechtigungen?“ „Kann ein Angreifer, der diese Schwachstelle ausnutzt, auf andere Konten oder Regionen zugreifen oder Daten exfiltrieren?“ Der Auswirkungsbereich eines Angriffs hänge stark davon ab, wozu die „Workload“ berechtigt ist.
• Wege der lateralen Bewegung
  „Die Analyse von Angriffspfaden über die ,Cloud’-Topologie hinweg zeigt, welche Schwachstellen, wenn sie ausgenutzt werden, einen Weg zu den wertvollsten ,Assets’ bieten!“ So könne ein Befund mit niedrigem CVSS-Wert bei einer „Workload“ mit Netzwerkzugriff auf eine Produktionsdatenbank eine höhere Priorität haben als ein kritischer CVE-Befund auf einer isolierten Entwicklungsinstanz.
• Geschäftlicher Kontext
  „Nicht alle Ressourcen haben das gleiche Gewicht!“ Eine Schwachstelle im Zahlungsabwicklungsdienst, im Kundendatenspeicher oder in einer für die „Compliance“ kritischen „Workload“ erfordere ein anderes Maß an Reaktionsdringlichkeit als derselbe Befund in einem internen Entwicklungstool.
• Aktive Bedrohungsfeeds
  Laufzeitsensoren beobachteten tatsächliches verdächtiges Verhalten, ungewöhnliche Prozessausführungen, unerwartete Netzwerkverbindungen sowie Zugriffsmuster bei Anmeldedaten und erhöhten die Priorität der damit verbundenen Schwachstellen von „theoretisch“ auf „bestätigt – aktiv“.
• Ausgleichende Kontrollmaßnahmen
  Eine Schwachstelle, welche durch eine WAF-Regel (Web Application Firewall) abgedeckt ist, welche den spezifischen Angriffsvektor blockiert, oder die sich in einer Workload befindet, in der der anfällige Codepfad niemals ausgeführt wird, berge ein geringeres effektives Risiko. Durch die Berücksichtigung von Kontrollmaßnahmen werde verhindert, dass die Behebungswarteschlange von Schwachstellen dominiert werde, welche bereits gemindert wurden.

Fokussierung auf verstärkende Wechselwirkung von Risikofaktoren

Der Befund mit der höchsten Priorität sei nicht derjenige mit der höchsten Punktzahl in einer einzelnen Dimension, „sondern derjenige, bei dem mehrere Risikofaktoren zusammenkommen“. Nicht Tausende von Befunden, sondern nur Dutzende.

• „Wenn sie nicht behoben werden, stellen Schwachstellen und Fehlkonfigurationen einen glaubwürdigen Weg zu einer schwerwiegenden Sicherheitsverletzung dar. Dies ist die Liste, auf die die autonome Behebung zuerst reagieren sollte.“

Die Hyper-Priorisierung in der „Cloud“ gehe über eine genaue Bewertung hinaus. Sie sei unerlässlich, um eine Liste mit Tausenden von Schwachstellen auf die wenigen Dutzend zu reduzieren, welche aktuell in ihrer spezifischen Umgebung ein echtes, unmittelbar bevorstehendes und ausnutzbares Risiko darstellten.

Qualys-Fazit: Impulse für „Cloud“-Sicherheitsteams

Die autonome Fehlerbehebung in der „Cloud“ sei kein Schwarz-Weiß-Szenario. Bei Konfigurationsabweichungen sei eine vollständige Automatisierung möglich. Beim „Human-in-the-Loop“-Ansatz würden Änderungen der Arbeitslasten, die mit operativen Risiken verbunden sind, manuell überprüft. Bei neuartigen Bedrohungen, für die es noch kein „Playbook“ gibt, komme eine auf „Large Language Models“ (LLM) gestützte Triage zum Einsatz.

• Die „Cloud“-Sicherheit sei eine besondere Herausforderung, da die zu schützende Umgebung von Natur aus dynamisch sei. Dhanawade gibt zu bedenken: „Die Infrastruktur verändert sich ständig über verschiedene Bereitstellungsarten hinweg, die jeweils unterschiedliche Risikomodelle mit sich bringen. All dies wird von Teams verwaltet, die schneller agieren als ursprünglich von den Sicherheitsprogrammen vorgesehen.“

CNAPP biete Sicherheitsteams nun einen einheitlichen Überblick über die gesamte Umgebung. Durch die Hyper-Priorisierung könnten sie sich auf das Wesentliche konzentrieren. Die autonome Behebung von Sicherheitslücken ermögliche es ihnen, Risiken schnell zu beseitigen, „bevor diese ausgenutzt werden können“. Doch abschließend merkt Dhanawade noch an: „Keine dieser Maßnahmen reicht für sich allein aus! Zusammen bilden sie jedoch ein Sicherheitsprogramm, das mit den neuesten KI-gestützten ,Cloud’-Bedrohungen tatsächlich Schritt halten kann.“

Weitere Informationen zum Thema:

Qualys
About Qualys. / The leading provider of information security and compliance cloud solutions.

Qualys
All posts by Shrikant Dhanawade / Director, Product Management, Cloud Security, Qualys

Qualys, Shrikant Dhanawade, Juni 2026
Der neue Standard bei CNAPP: Hyper-Priorisierung und autonome Behebung im Cloud-Maßstab

datensicherheit.de, 27.05.2026
Die physische Dimension digitaler Resilienz angesichts kinetischer Angriffe auf Cloud-Infrastrukturen / Patrick Fetter macht deutlich, weshalb physische Angriffe auf „Cloud“-Infrastrukturen – von Drohnen-Attacken auf Rechenzentren bis hin zu Sabotageakten an Seekabeln – die digitale Resilienz der Unternehmen grundlegend in Frage stellen

datensicherheit.de, 24.05.2026
Digitale Souveränität: Europa erneuert seine Cloud-Infrastruktur für 180 Millionen Euro / Die „GITEX AI EUROPE 2026“ in Berlin soll führende Unternehmen zusammenbringen, welche Europas „Cloud“- und KI-Zukunft gestalten – darunter IONOS und Trend Micro mit praxisreifen Lösungen für die Anforderungen des Marktes

datensicherheit.de, 08.04.2026
Warum Datenschutz zum entscheidenden Kriterium für Cloud-Speicher wird / Trotz der weiten Verbreitung digitaler Dienste bleibt ein Teil der deutschen Bevölkerung zurückhaltend gegenüber Cloudspeicher-Lösungen. Die STRATO-Studie zeigt deutlich welche Gründe dahinterstehen. Besonders häufig wird der Wunsch nach lokaler Speicherung genannt.

datensicherheit.de, 08.04.2026
Physische Sicherheit in Unternehmen: Governance entscheidend bei Cloud-Nutzung / Genetec unterstützt Unternehmen, mithilfe der „Cloud“ ihre physische Sicherheit zu modernisieren und zugleich widerstandsfähiger zu werden

datensicherheit.de, 07.03.2026
Monitoring von Cloud-Datenbanken: Transparenz und Kontrolle in dynamischen IT-Umgebungen / Die Datenspeicherung hat sich in den letzten Jahren erheblich verändert. Im Fokus der aktuellen digitalen Infrastruktur stehen neben der Migration in die Cloud insbesondere auch der Betrieb und das Management von Cloud-Datenbanken. Unternehmen verarbeiten Arbeitslasten in einem bislang unbekannten Umfang – Cloud-Datenbank-Management macht das möglich, indem es den Wartungsaufwand reduziert und zudem Flexibilität und Effizienz erhöht. 

[datensicherheit.de, 15.06.2026] Das „22-Sekunden-Problem“ verändert die Denkweise über Cybersecurity, erläutern Leif Steen und Punit Thakkar in ihrem aktuellen ds-Gastbeitrag „KI und Cybersecurity: Die größte Führungsfrage des Jahres 2026“. Sie nehmen dabei Bezug auf die „RSA Conference 2026“: Sandra Joyce, VP von „Google Threat Intelligence“, hat demnach dabei ausgeführt, dass die Zeit zwischen dem ersten Netzwerkzugang und der Weitergabe an andere Angreifer von acht Stunden im Jahr 2022 auf nur noch 22 Sekunden im Jahr 2025 geschrumpft sei. „Zweiundzwanzig Sekunden! So viel Zeit bleibt einem Verteidiger, bevor ein Angreifer übergibt und tiefer in die Systeme eines Unternehmens vordringt…“ Unsere beiden Gastautoren betonen, dass kein Mensch so schnell reagieren könne und geben daher zu bedenken, dass genau deshalb Künstliche Intelligenz (KI) die Cybersecurity von Grund auf verändere.

Foto: privat

Leif Steen verbindet seine Go-to-Market-Erfahrung mit dem Thema KI-Führung

Foto: privat

Punit Thakkar hat an der ESMT Berlin den Executive-MBA-Kurs „AI for Managers“ mitentwickelt

77% der Organisationen setzen bereits GenKI im „Security Stack“ ein

Die Zahlen sprechen offensichtlich eine klare Sprache. Laut einem Kiteworks-Report von 2026 jedenfalls setzen 77 Prozent der Organisationen bereits Generative KI in ihrem „Security Stack“ ein – doch nur 37 Prozent hätten eine formale KI-Richtlinie. Die Kluft zwischen Einsatzgeschwindigkeit und „Governance“ sei enorm.

• Gewarnt wird, dass Angreifer genau hinschauten: Eine Umfrage von Dark Reading vom Februar 2026 ergab nämlich, dass 48 Prozent der Cybersecurity-Fachleute Agentische KI (d.h. autonome Systeme, welche eigenständig planen, sich anpassen und hartnäckig weiterarbeiten) als den gefährlichsten Angriffsvektor betrachteten.

Solche Systeme stoppten eben nicht nach einem gescheiterten Versuch – sie versuchten es erneut. „Die Botschaft ist eindeutig: Angriffe werden heute in Sekunden gemessen!“ Aber die KI-Adaption in den meisten Unternehmen werde noch in Quartalen gemessen.

Abbildung: © Leif Steen & Punit Thakkar

Transformation: Von Human-Organisationen zu Augmentierten Organisationen

Unternehmens-Transformation zur Augmentierten Organisation

Steen und Thakkar führen zu der praktischen Bedeutung aus: „Es bedeutet, dass sich das Organigramm weiterentwickeln muss! Das ist etwas, woran wir seit einiger Zeit arbeiten, und wir haben unsere Erkenntnisse kürzlich im ,Berlin Capital Club’ präsentiert.“ Die Kernidee sei die von ihnen als „augmentiert“ bezeichnete Organisation. „In der alten Welt wurde jede Sicherheitsaufgabe von einem Menschen erledigt. In der neuen Welt arbeiten hybride Teams aus Menschen und KI zusammen.“

• Einige Funktionen übernehme die KI bereits vollständig, während andere durch KI-Unterstützung leistungsfähiger würden. „Das Ergebnis ist eine Organisation, die schneller lernt, präziser entscheidet, effektiver schützt und in einem größeren Maßstab arbeiten kann als je zuvor.“

Beide unterstreichen, dass diese Erkenntnis zu einem neuen Rollenverständnis führen muss. So müsse dann ein „Chief AI Security Officer“ (CAISO) gleichermaßen Technologie und Geschäftsstrategie verstehen und ein „AI-Governance-Team“ Regeln vor Eintritt eines Schadensfalles definieren. Zudem werde eine Unternehmenskultur benötigt, „die KI-Kompetenz als Grundvoraussetzung behandelt, genauso wie wir heute grundlegende Computerfähigkeiten voraussetzen“.

KI muss „Chefsache“ sein

Steen kann nach eigenen Angaben auf acht Jahre Erfahrung in Wachstumsstrategie, Marketing und Unternehmensaufbau zurückblicken, Thakkar auf elf Jahre aus Technologie, Unternehmensführung und Medien – darunter als „Frontier-AI-Research-Consultant“ am Fraunhofer HHI.

• „Wir haben beide an der ESMT Berlin studiert und dort auch den MBA-Kurs ,AI for Managers’ entwickelt. Wir teilen die Überzeugung, dass KI eine Führungsaufgabe ist!“

Die zentrale Erkenntnis ihrer Arbeit: „Sobald Intelligenz zur Massenware wird, können Unternehmen nur noch gewinnen, wenn sie sich wirklich differenzieren!“ Diese Differenzierung müsse auf ganzer Linie erfolgen, auch bei internen Strukturen. „Das Organigramm von gestern ist für die Herausforderungen von morgen schlicht nicht gemacht!“

Abbildung: © Leif Steen & Punit Thakkar

„Impact-vs.-Capability-Matrix“: Priorisierung von KI-Projekten nach Wirkung und Umsetzbarkeit

Weiterentwicklung von reiner Feuerlöscher-Funktion zum Architekten KI-basierter Sicherheit

Viele CISOs verbrächten ihre Tage im Krisenmodus. „Ein Angriff hier, ein Datenleck dort. Sie haben das Gefühl, ständig Brände zu löschen. Definitiv etwas, das auf Dauer niemandem Freude macht.“ Wer aber immer nur „Feuer löscht“, könne nie ein „feuerfestes Haus“ bauen. Die „KI-Revolution“ verlange somit drei fundamentale Denkwechsel von Cybersecurity-Führungskräften:

1. Von der Führung von Menschen zur Führung von Intelligenz
   „Wer heute ein Team leitet, wird morgen auch KI-Agenten leiten.“ Dies erfordere neue Fähigkeiten, vor allem sogenanntes Agent Engineering – mithin die Kunst, KI-Systeme so zu konfigurieren, dass sie zuverlässig arbeiten. Dies laufe auf eine klare Definition von Rolle, Aufgabe und Kontext hinaus.
2. Von individueller KI-Kompetenz zu organisationsweiter KI-Fluenz
   Es reiche nicht, wenn der CISO weiß, wie man „ChatGPT“ oder „Claude“ benutzt – KI-Wissen müsse durch die gesamte Organisation fließen. „Peer-to-Peer-Lernen, interne Sessions, eine gemeinsame Plattform für KI-Erfolge. All das gehört zur Strategie.“

3. Vom Fragenstellen zum Erteilen von Missionen
   Statt Mitarbeitern eine einzelne Aufgabe zu geben und auf Ergebnisse zu warten, sollten Führungskräfte Missionen definieren. Mit Hilfe einer „Impact-vs.-Capability-Matrix“ (einer einfachen, von Steen und Thakkar entwickelten Methode zur Priorisierung von KI-Projekten nach Wirkung und Umsetzbarkeit, s.o.) werde klar, wo die größte Hebelwirkung liegt.

Vertrauen, Transparenz und Erklärbare KI seien hierbei entscheidend: „Sie sind das Fundament, das verhindert, dass KI-Initiativen am internen Widerstand scheitern!“ Wer eine Kultur aufbauen will, welche KI-Experimente ermöglicht und gleichzeitig „Compliance“ schützt, brauche klare Leitplanken – und den Mut, diese auch durchzusetzen.

Ein Kompass für den Einstieg – Empfehlungen und Warnungen im KI-Kontext

Steen und Thakkar benennen konkrete Lektionen aus ihrer Praxis und Forschung:

Empfehlungen:

• „Definieren Sie eine KI-Richtlinie, bevor der erste Mitarbeiter KI einsetzt. Regeln vor Werkzeug!“
• „Starten Sie mit einem ,Quick Win’. Ein überschaubares Projekt (zum Beispiel automatisierte Log-Analyse), das innerhalb von 30 Tagen Ergebnisse liefert!“
• „Machen Sie KI-Wissen zur Teamaufgabe. Peer-to-Peer-Lernen, ,Prompt der Woche’-Sessions, eine gemeinsame Plattform für KI-Erfolge!“
• „Erstellen Sie eine ,Soul File’ und eine ,Constitution File’: Dokumente, die beschreiben, wie Sie und Ihr Team denken und mit KI arbeiten. So handeln KI-Agenten im Interesse der Organisation!“
• „Priorisieren Sie mit der ,Impact-Capability-Matrix’. Alles, was möglich ist, ist spannend. Konzentrieren Sie sich auf das, was auch sinnvoll ist!“

Warnungen:

• KI nur als IT-Projekt behandeln – KI gehöre in die gesamte Führungsebene.
• Ohne „Governance“ starten – „Shadow AI“ (KI-Nutzung ohne Wissen der Führung) sei sonst die neue Shadow-IT.
• Auf den perfekten Moment warten – den gebe es nicht, die Welt bewege sich bereits.
• KI-Ergebnissen blind vertrauen – KI sei ein zwar mächtiges, aber auch fehlbares Werkzeug. Menschliche Aufsicht bleibe somit unerlässlich.
• Kulturwandel ignorieren – die beste Technologie der Welt drohe zu scheitern, wenn die Menschen dahinter zurückgelassen werden.

Perspektiven des Einsatzes von KI-Agenten

Gartner prognostiziert, dass 40 Prozent der Unternehmensanwendungen bis Ende 2026 aufgabenspezifische KI-Agenten integrieren werden, gegenüber weniger als fünf Prozent im Jahr 2025. Dies sei ein achtfacher Anstieg in einem einzigen Jahr. Proofpoints Cybersecurity-Ausblick warnt zudem, dass Autonome Copiloten bis 2026 Menschen als Hauptquelle von Datenlecks übertreffen könnten.

• „Unternehmen führen KI-Assistenten in rasantem Tempo ein, ohne zu erkennen, dass sie die gleichen ,Datenhygiene’-Probleme übernehmen, die bereits in ihren Umgebungen existieren.“

Die Chance sei gleichwohl enorm: Unternehmen, welche KI-Cybersecurity richtig umsetzten, würden einen strukturellen Vorteil gewinnen, der sich über die Zeit potenziere. Steen und Thakkar ziehen als Fazit: „Wer heute ,Governance’-Rahmenwerke aufbaut, wird morgen mit Zuversicht skalieren können. Das ist eine Zukunft, die es wert ist, gebaut zu werden!“ Sie schließen mit der Frage: „Sind Sie bereit, sie zu führen?“

Weitere Informationen zum Thema:

ESMT BERLIN, Leif Steen, 13.01.2026
The value of the ESMT network: a Full-time MBA student’s global experiences / Leif Steen, Full-time MBA Class of 2026, explains why taking the initiative and embracing the international aspects of the program can make the experience more meaningful.

MBA WATCH, POETS & QUANTS, Jeff Schmitt, 02.05.2026
2026 Best & Brightest MBA: Punit Thakkar, ESMT Berlin / “Engineer, marketer, AI consultant, and aspiring entrepreneur who challenges himself across disciplines and geographies.”

Leif Steen & Punit Thakkar
ds-Gastebitrag „KI und Cybersecurity: Die größte Führungsfrage des Jahres 2026“

JAZZCYBERSHIELD, 15.04.2026
Your Network Has 22 Seconds: How Agentic AI Is Rewriting Cyberattacks in 2026

RSAC
Sandra Joyce / VP, Google Threat Intelligence, Google Security

Google Cloud
Google Threat Intelligence / Actionable Threat Intelligence im Google-Maßstab / Verschaffen Sie sich einen umfassenden Überblick über die Bedrohungen, die für Ihr Unternehmen am relevantesten sind.

Kiteworks, Cybersecurity Risk Management, Patrick Spencer, 25.02.2026
State of AI Cybersecurity in 2026: What the Data Tells Us About What’s Coming Next / AI didn’t just change the cybersecurity conversation in 2025. It torched the old playbook and started writing a new one — in real time. Here’s what 1,800+ security professionals say about the road ahead, and why coasting is no longer a survival strategy.

RevBits
What is a Security Stack?

DARK READING, Tara Seals, 30.01.2026
2026: The Year Agentic AI Becomes the Attack-Surface Poster Child / Dark Reading asked readers whether agentic AI attacks, advanced deepfake threats, board recognition of cyber as a top priority, or password-less technology adoption would be most likely to become a trending reality for 2026.

BERLIN CAPITAL CLUB AM GENDARMENMARKT
Willkommen im Berlin Capital Club: Still und fast unbemerkt ist in den letzten Jahren in Berlin eine Business-Club-Kultur entstanden, die sich mit angelsächsischen Metropolen messen kann und andere deutsche Städte überflügelt. Die deutsche Hauptstadt bietet exklusive Treffpunkte mit angeschlossener Clubstruktur – unter ihnen der international renommierte und als bester Business Club Deutschlands prämierte „Berlin Capital Club“.

Fraunhofer HHI
Über uns / Innovationen für die digitale Gesellschaft

ESMT Berlin
Germany’s leading business school / Study at our triple-crown-accredited school

ESMT Berlin
AI for Managers / Understanding AI concepts, use cases, and implications

Gartner, 05.09.2025
Gartner Predicts 40% of Enterprise Apps Will Feature Task-Specific AI Agents by 2026, / Up from Less Than 5% in 2025

proofpoint, 17.11.2025
Cybersecurity in 2026: Agentic AI, Cloud Chaos, and the Human Factor

datensicherheit.de, 22.05.2026
KI-Einsatz: Erfolgsfaktoren zum Erkenntnisgewinn für Führungskräfte / Künstliche Intelligenz (KI) ist dann am wirkungsvollsten, wenn sie Informationen im Kontext analysiert und eben gerade nicht isoliert bzw. in einzelnen Silos

datensicherheit.de, 27.02.2026
Eckhart Hilgenstock: KI als Entscheidungshilfe – aber niemals Ersatz für menschliche Führung / Der Hamburger Interim-Manager Hilgenstock warnt eindringlich: „Wer als Manager Entscheidungen an die KI delegiert, hat seinen Job verfehlt. Gleiches gilt, wenn man KI nicht als Datenbasis für Entscheidungen nutzt!“

datensicherheit.de, 20.01.2026
Vertrauen, Ethik und Resilienz im Fokus: Der CISO der Zukunft übernimmt Führungsrolle / Durch technologische, geopolitische und regulatorische Entwicklungen wandelt sich das CISO-Berufsbild von einer rein technischen Sicherheitsfunktion zu einer strategischen Verantwortung

Von unserem Gastautor Roman Spitzbart, VP EMEA Solutions Engineering, Dynatrace

[datensicherheit.de, 30.04.2026] Digitale Infrastrukturen bestehen heute aus eng verflochtenen Anwendungen, Plattformdiensten, APIs, Datenverarbeitung und Cloud-Ressourcen. In solchen Umgebungen entstehen kritische Probleme selten durch einen einzelnen Defekt. Häufig sind es mehrere Abweichungen gleichzeitig, die sich entlang bestehender Abhängigkeiten verstärken und lokale Störungen zu weitreichenden Ausfällen machen.

Roman Spitzbart, VP Solutions Engineering EMEA bei Dynatrace, Bild: Dynatrace

Für die Informationssicherheit ist genau das entscheidend. Viele Schwächen bleiben im Regelbetrieb unsichtbar, weil Schutzmechanismen, Redundanzen und Ausweichpfade erst unter Belastung zeigen, ob sie tatsächlich funktionieren. Verfügbarkeit allein ist deshalb kein verlässlicher Beleg für Widerstandsfähigkeit. Ob eine Architektur robust ist, zeigt sich erst dann, wenn Komponenten ausfallen, Kommunikationspfade verzögert reagieren oder Lasten unerwartet ansteigen. An diesem Punkt wird Chaos Engineering relevant.

Widerstandsfähigkeit lässt sich nicht nur beobachten

Chaos Engineering untersucht, wie Systeme unter gezielt herbeigeführten Störungen reagieren. Im Mittelpunkt steht nicht das Erzeugen von Fehlern um ihrer selbst willen, sondern die kontrollierte Prüfung, wie belastbar eine digitale Architektur in kritischen Situationen tatsächlich ist.

Entscheidend ist dabei die Gesamtsicht. Es geht darum, welche Folgen ein Ausfall eines Dienstes für abhängige Komponenten hat. Bleibt ein Problem lokal begrenzt? Werden Anfragen sauber umgeleitet? Halten Redundanzmechanismen stand? Lassen sich kritische Funktionen aufrechterhalten? Genau diese Fragen sind für Cyberresilienz zentral. In der Praxis wird dieser Ansatz bislang dennoch nur punktuell genutzt. Der Grund liegt vor allem in seiner operativen Komplexität.

Warum Chaos Engineering bislang selten skaliert

Belastungsszenarien müssen vorbereitet, mögliche Auswirkungen abgeschätzt und Ergebnisse im Anschluss interpretiert werden. In verteilten Systemlandschaften ist das aufwendig. Hinzu kommt, dass das Wissen über reale Abhängigkeiten oft lückenhaft ist. Architekturen verändern sich schneller, als Dokumentation und Annahmen Schritt halten können.

Damit entsteht ein doppeltes Problem. Zum einen werden Experimente schnell zum manuellen Spezialprojekt. Zum anderen steigt das Risiko, Störungen an Stellen einzubringen, die zwar technisch erreichbar, aber analytisch wenig sinnvoll sind oder unbeabsichtigt produktive Auswirkungen nach sich ziehen. Solange Auswahl, Durchführung und Bewertung solcher Tests stark von manueller Vorarbeit abhängen, bleibt Chaos Engineering auf Einzelfälle begrenzt. Für einen regelmäßigen Einsatz in sicherheitskritischen Umgebungen reicht das nicht aus.

KI schafft die Voraussetzung für gezielte Belastungsszenarien

Genau hier kommt Künstliche Intelligenz (KI) zum Tragen. Die Grundlage dafür bildet eine fortlaufende Sicht auf Kommunikation, Lastverhalten und Abhängigkeiten innerhalb einer Infrastruktur. Moderne Observability-Lösungen liefern dazu kontinuierlich Daten aus Anwendungen, Plattformen und Netzwerken, etwa in Form von Logs, Metriken, Traces und Topologieinformationen.

Die KI wertet diese Informationen nicht isoliert aus, sondern im Zusammenhang. Dadurch wird erkennbar, welche Dienste regelmäßig miteinander interagieren, welche Muster im laufenden Betrieb üblich sind und an welchen Stellen sensible Verflechtungen bestehen. Besonders wertvoll ist die Fähigkeit, Ursache-Wirkungs-Zusammenhänge sichtbar zu machen. So lässt sich nachvollziehen, wo eine Veränderung lokal bleibt und wo daraus eine Kette weiterer Effekte entstehen kann.

Dieses Verständnis ist der eigentliche Fortschritt. Hypothesen über mögliche Auswirkungen beruhen damit nicht mehr nur auf Erfahrung oder Vermutung, sondern auf tatsächlichen Abhängigkeitsstrukturen im laufenden System.

Sicherheitsrelevante Belastungsproben werden präziser

Auf dieser Basis lassen sich Störungsszenarien gezielt auswählen. Dazu zählen beispielsweise erhöhte Latenzen in Kommunikationspfaden, der Ausfall einzelner Infrastruktur- oder Plattformkomponenten, Engpässe in zentralen Verarbeitungsdiensten oder Unterbrechungen entlang kritischer Service-Abhängigkeiten. Genau solche Situationen entsprechen oft den Bedingungen, unter denen sich reale Sicherheits- und Stabilitätsprobleme entfalten.

Während eines Tests analysiert die KI fortlaufend, wie sich die Störung innerhalb des Systems fortsetzt. Sichtbar wird, welche Dienste besonders empfindlich reagieren, ob vorhandene Redundanzen tatsächlich übernehmen und an welchen Punkten unerwartete Seiteneffekte entstehen. Damit wird aus einer isolierten Störungssimulation eine belastbare Prüfung digitaler Widerstandsfähigkeit.

Der Nutzen liegt nicht nur in der Beobachtung einzelner Reaktionen. Organisationen erkennen präziser, wo Ausfallketten drohen und welche Störungen besonders hohe Risiken nach sich ziehen. Gleichzeitig sinkt das operative Risiko, weil Experimente gezielter vorbereitet und ihre Wirkung genauer eingeordnet werden können.

Von der Vorfallanalyse zur vorausschauenden Cyberresilienz

In vielen Unternehmen beginnt die tiefergehende Bewertung technischer Schwächen erst nach einem Sicherheits- oder Verfügbarkeitsvorfall. Dann wird sichtbar, welche Systeme betroffen waren und an welchen Stellen Schutz- oder Failover-Mechanismen versagt haben. KI-gestütztes Chaos Engineering verschiebt diese Perspektive: Kritische Belastungssituationen lassen sich bereits vor einem realen Ausfall kontrolliert prüfen. So wird erkennbar, welche Abhängigkeiten Risiken verstärken, wo technische Schutzmaßnahmen an Grenzen stoßen und wie robust kritische Dienste gegenüber Störungen tatsächlich sind.

Damit wird Chaos Engineering zu einem Verfahren, mit dem sich Cyberresilienz systematisch vorbereiten lässt. Digitale Infrastrukturen werden unter kontrollierten Bedingungen auf ihre Belastbarkeit gegenüber Ausfällen, Verzögerungen und Kaskadeneffekten geprüft. Widerstandsfähigkeit wird damit nicht erst im Vorfall sichtbar, sondern bereits im Vorfeld überprüfbar.

Weitere Informationen zum Thema:

datensicherheit.de, 24.03.2026
OpenTelemetry als Fundament einer vertrauenswürdigen Observability-Infrastruktur

Von unseem Gastautor Serge Thibault, VP Information Security bei Poka

[datensicherheit.de, 15.04.2026] Die Integration von Künstlicher Intelligenz (KI) in der Fertigung stellt eine regelrechte Revolution dar. Sie ermöglicht Herstellern beeindruckende Vorteile in Bezug auf Effizienz, Produktivität, Wissensaustausch und Kostensenkungen. Zwar ist das Potenzial der KI in der Fertigung groß, doch ohne angemessene Sicherheitsmaßnahmen auf Unternehmensebene kann sie schnell zu einem Betriebs- und Reputationsrisiko werden. Die leistungsstarken KI-Tools bringen kritische Sicherheits- und Compliance-Probleme mit sich. Das stellt Fertigungsunternehmen vor die Frage, wie sie die Vorteile der KI nutzen können, ohne die Datensicherheit oder die operative Integrität zu gefährden. Plattformen für vernetzte Mitarbeiter kommt dabei eine entscheidende Rolle zu. Sie verringern das Risiko bei der Implementierung von KI – vom Umgang mit Kundendaten bis hin zu Transparenz und Schutzstrategien.

KI – Das Dilemma von Nutzen und Risiko

Sehen wir uns das Dilemma von Nutzen und Risiko näher an. Die Investitionen in Künstliche Intelligenz KI in der deutschen Fertigungsindustrie nehmen rasant zu. Es wird erwartet, dass die Branche im Jahr 2030 einen Umsatz von 2.765,8 Millionen US-Dollar erzielen wird. Der „KI-Aktionsplan“ der Bundesregierung und die Initiative „Innovationspark Künstliche Intelligenz“ spielen eine Schlüsselrolle bei der Förderung der Integration von KI in der Fertigung. Die Bundesregierung hat 1,75 Milliarden Euro für die Förderung von KI-bezogener Forschung, Entwicklung und Anwendung bereitgestellt.

Doch je mehr die Branche in KI-Technologie investiert, desto anfälliger wird sie auch.

Hohe Kosten durch Cyberangriffe

Cyberangriffe kosten die deutsche Wirtschaft die enorme Summe von 148 Milliarden Euro pro Jahr. 2025 verzeichnete die Fertigung einen Anstieg der Ransomware-Angriffe um 56 % und war damit die am stärksten betroffene Branche. Da die Fertigungsindustrie die Grundlage für eine Reihe anderer Sektoren bildet – vor allem für die Automobilindustrie, die Luft- und Raumfahrtindustrie und die Lebensmittel- und Getränkeindustrie –, haben Cybervorfälle in Fertigungsunternehmen weitreichende Auswirkungen auf andere Branchen, wodurch sich die Produktionsunterbrechungen und Lieferkettenprobleme verschärfen.

Cyberangriffe können Millionen kosten und beeinträchtigen fast immer die Reputation des Unternehmens, das Vertrauen von Investoren und Verbrauchern und die Lieferketten. Während Fertigungsunternehmen die Einführung von KI vorantreiben, müssen sie deshalb robuste Strategien für die Cybersicherheit entwickeln, um ihre Systeme zu schützen, die Betriebskontinuität zu gewährleisten und das Vertrauen ihrer Kunden und Geschäftspartner zu erhalten.

Intelligentere Fabriken bieten eine größere Angriffsfläche – Cybersecurity muss vor den Schwachstellen der KI schützen

Produktionsstätten sind heute komplexer und dezentraler organisiert denn je, und die alten Systeme sind nicht fortschrittlich genug, um moderne Hacker abzuwehren. Erschwerend kommt hinzu, dass die Einführung von KI-Tools eine ganze Reihe neuer Bedrohungen mit sich bringt. KI beeinflusst heute bereits viele Aspekte des Fertigungsprozesses. Ob bei der Mitarbeiterschulung, Sicherheitsüberwachung, Datenerfassung oder den KI-Robotern in der Fabrikhalle: Fertigungsunternehmen sind vernetzter und intelligenter geworden – und angreifbarer.

Da KI-gestützte Arbeitsabläufe auf Daten, Sensoren und Netzwerke angewiesen sind, hat sich die Angriffsfläche für Cyberangriffe vergrößert. Hunderte oder Tausende vernetzter Geräte sind potenzielle Einfallstore für Hacker und andere Bedrohungen. Oft werden die Pläne zur Einführung von KI-Tools schneller umgesetzt als die notwendigen Sicherheitsmaßnahmen. Dabei ist es heute wichtiger denn je, Governance, Compliance und die generelle Sicherheit in der Fertigung effektiv zu gewährleisten.

Betrachten wir beispielsweise den Einsatz von Technologien für vernetzte Mitarbeiter. KI-gesteuerte Anwendungen vereinfachen den Zugriff auf wichtige Informationen, verbessern die globale Kommunikation und beschleunigen die Wertschöpfung durch die automatische Konvertierung digitaler Inhalte. Es gibt jedoch auch wichtige Sicherheitsaspekte, die berücksichtigt werden müssen, um die Daten zu schützen, mit denen diese Systeme arbeiten.

Der Schutz proprietärer Produktionsdaten gewährleistet eine sichere, isolierte und regelkonforme KI-Verarbeitung

Produktionsdaten sind äußerst sensibel, da sie Geschäftsgeheimnisse, detaillierte Informationen über Fertigungsprozesse und eine Vielzahl von Kundendaten enthalten. Bei der Implementierung von KI-Technologien ist deshalb die Frage entscheidend, ob Fertigungsdaten jemals an externe KI-Anbieter weitergegeben werden.

Auch hier sprechen die Statistiken eine deutliche Sprache: 2024 waren mehr als 40 % der Hacking-Ansprüche auf externe Anbieter zurückzuführen.

Kundendaten sollten nicht zum Trainieren von KI-Modellen verwendet werden. Sie dürfen nur vom SaaS-Anbieter verarbeitet werden und niemals mit externen Anbietern von KI-Modellen geteilt werden. Alle Eingaben, Ausgaben und Einbettungen müssen innerhalb einer sicheren Infrastruktur geschehen, die vom SaaS-Anbieter betrieben, überwacht und kontrolliert wird. Nur so können Datenhoheit, Datenschutz und Compliance in vollem Umfang gewährleistet werden.

Moderne Plattformen für vernetzte Mitarbeiter lösen dieses Problem, indem sie alle Daten in sicheren Umgebungen wie AWS verarbeiten und die strengen Gesetze zur Datenresidenz einhalten. Da Prompts und Antworten ebenfalls vollständig in der AWS-Umgebung verarbeitet werden, können Hersteller leistungsstarke KI-Funktionen in der Fabrikhalle nutzen und gleichzeitig strenge Vorgaben bezüglich Datenschutz, Kontrolle und Compliance zuverlässig einhalten.

KI-Fehlerminimierung und Sicherheitsmaßnahmen für die Fertigung

In der Fertigung sind Sicherheit und Genauigkeit der KI-Outputs von größter Bedeutung, da Fehler hier schnell zu realen Gefährdungen führen können. Hersteller sollten daher sicherstellen, dass die KI-Antworten auf Sicherheit und Korrektheit geprüft, professionell formuliert und auf den spezifischen Kontext abgestimmt sind. Um das Risiko unsicherer oder falscher KI-Ausgaben in der Fertigung zu minimieren, sollten Unternehmen ein mehrstufiges System aus Leitplanken und Validierungskontrollen einführen:

• Inhaltsfilterung bei der Eingabe: Einsatz von KI-Guardrails, um unsichere Inhalte zu blockieren, bevor sie in das Modell einfließen. Beispiele sind Filter, die Hassrede, Beleidigungen, Diskriminierungen, sexuelle Inhalte und gewaltverherrlichende Darstellungen erkennen und entfernen.
• Prompt Injection und Erkennung böswilliger Eingaben: Eingaben werden vorab bewertet, um böswillige Absichten oder Lecks in den System-Prompts zu erkennen.
  Few-Shot-Prompting: Die Prompts enthalten Beispiele für akzeptable/unakzeptable Fragen, um sicheres Verhalten zu fördern.
• Sichere Verarbeitung von Prompts und Antworten: Verarbeiten Sie alle KI-Interaktionen in einer sicheren, kundenspezifischen Umgebung. Verschlüsseln Sie Protokolle im Ruhezustand sowie bei der Übertragung. Setzen Sie strenge Zugriffskontrollen durch. Dadurch sind Prompts, Antworten und Telemetrie auditierbar, können aber niemals für das Trainieren der KI verwendet werden.
• Retrieval-Augmented Generation (RAG) für Output-Grounding: Verankern Sie jede KI-Antwort in verifizierten, kundenspezifischen Quell-Inhalten. Ist kein relevanter Kontext vorhanden, konfigurieren Sie das Modell so, dass es „Keine Antwort“ zurückgibt, statt Halluzinationen zu riskieren.
• Vermeidung von Verzerrungen, Obszönitäten und Scope-Drifts: Integrieren Sie Mechanismen zur Überprüfung der Ausgabe auf unangemessene oder voreingenommene Sprache. Stellen Sie sicher, dass die Antworten auf die Daten des Kunden beschränkt bleiben. Sorgen Sie für professionelle Formulierungen.
• Human-in-the-Loop (HITL)-Überprüfung: Für sehr kritische Ausgaben, wie beispielsweise Sicherheitsprotokolle oder komplexe Arbeitsanweisungen, sollten Sie einen Arbeitsablauf implementieren, bei dem ein qualifizierter menschlicher Experte die von der KI generierten Inhalte überprüft und genehmigt, bevor sie fertiggestellt werden. So erhalten Sie ein Sicherheitsnetz, um kleinste Fehler oder kontextbezogene Nuancen zu erkennen, die automatisierten Systemen leicht entgehen.
• Mehrsprachigkeit und kulturelle Sicherheit: Passen Sie die Antwortsprache automatisch an die Eingabe an. Nutzen Sie bei unterschiedlichen Kontexten eine Lokalisierung oder Übersetzung, um Klarheit und kulturelle Relevanz zu wahren.
• Purple Teaming und interne Tests: Führen Sie regelmäßig spezielle Simulationen gegnerischer Angriffe durch, um den Schutz vor Prompt Injection zu bewerten und zu verbessern.

KI muss unternehmerische Verantwortung übernehmen – durch Transparenz, Fairness und richtlinienkonforme Antworten

Im Zeitalter der eingebetteten KI liegt die Verantwortung für die Grundsätze der Unternehmensführung eindeutig beim SaaS-Anbieter. Kunden in anspruchsvollen Umgebungen wie der Fertigung erwarten mehr als nur leistungsstarke Funktionen. Sie verlangen eine sichere, konforme und vertrauenswürdige KI. Diese Verantwortung umfasst eine nachprüfbare Grundlage für Sicherheit und Datenintegrität, die durch strenge, unabhängige Audits validiert wird, und die Einhaltung branchenüblicher Best Practices.

Echte KI-Governance reicht jedoch tief in das Produkt selbst hinein. Der Anbieter ist verpflichtet, technische Leitplanken („Guardrails“) einzubauen, die Transparenz, Fairness und die Einhaltung etablierter Betriebs- und Sicherheitsstandards gewährleisten. Systeme, die Retrieval-Augmented Generation (RAG) verwenden, um KI-Antworten ausschließlich auf die verifizierte Wissensbasis eines Kunden zu stützen, verhindern gefährliche „Halluzinationen“ und stellen sicher, dass alle Ausgaben kontextabhängig korrekt sind.

Für den Anbieter ist die Übernahme dieser Verantwortung ein strategischer Auftrag. Durch die proaktive Einbindung ethischer Kontrollen und einer soliden Governance wird aus einem einfachen Werkzeug ein vertrauenswürdiges, strategisches Gut. Auf diese Weise reduzieren SaaS-Anbieter nicht nur die Rechts- und Reputationsrisiken ihrer Kunden. Sie schaffen auch das Vertrauen, das für die sichere, nachhaltige Einführung und für langfristige operative Exzellenz unerlässlich ist.

Eine sicherere und intelligentere Zukunft für KI in der Fertigung

Die Integration von KI bietet der Fertigungsindustrie immense Vorteile – von optimierten Abläufen bis zur Befähigung ganzer Belegschaften. Doch mit diesem Versprechen gehen auch erhöhte Risiken einher.

Da Fabriken und Fertigungsprozesse zunehmend vernetzt und intelligenter werden, müssen Hersteller und ihre Lösungsanbieter dafür sorgen, dass die richtigen Prozesse vorhanden sind. Nur so können sie Cyberbedrohungen und Datenschutzrisiken abschwächen und effektiv auf ethische Herausforderungen reagieren.

Wenn Hersteller fortschrittliche Technologien für vernetzte Mitarbeiter einführen, die der Datensicherheit Priorität einräumen, robuste Cybersicherheitsprotokolle implementieren und KI-Antworten auf Sicherheit und Fairness prüfen, können sie die wachsenden Anwendungsfälle für KI in der Fertigung sicher nutzen. Dafür muss die KI die Anforderungen der Unternehmensverantwortung widerspiegeln.

Serge Thibault, VP Information Security bei Poka, Bild Poka

Serge Thibault leitet den Bereich Informationssicherheit und IT bei einer globalen B2B-SaaS-Plattform, die Unternehmen aus Industrie und Fertigung bedient. Bei Poka spielt er eine Schlüsselrolle bei der sicheren Einführung und Steuerung von KI-Funktionen innerhalb der Plattform. Dabei sorgt er für einen verantwortungsvollen Umgang, Datenschutz und Risikomanagement und fördert gleichzeitig Innovationen.

Weitere Informationen zum Thema:

datensicherheit.de, 15.04.2026
Januskopf KI: Förderer und Zerstörer der IT-Sicherheit

datensicherheit.de, 12.04.2026
KI-Verordnung: Konkretisierung der Transparenzpflichten für Unternehmen

Von unserer Gastautorin Katharina Oriefe-Briand, STRATO

[datensicherheit.de, 08.04.2026] Cloud-Speicher sind für viele Menschen zum festen Bestandteil des digitalen Alltags geworden. Fotos, Dokumente oder Backups werden selbstverständlich online gespeichert. Gleichzeitig wächst jedoch das Bewusstsein für Risiken rund um Datenschutz, Zugriffskontrolle und Vertragsbedingungen. Eine aktuelle Studie zum Thema Cloud-Nutzung von STRATO zeigt, dass sich die Erwartungen an Cloud-Anbieter in Deutschland deutlich verschärfen. Sicherheits- und Transparenzanforderungen spielen bei der Entscheidung für oder gegen einen Dienst eine immer wichtigere Rolle.

Cloud-Speicher: Vertrauen entsteht durch Transparenz

Lange Zeit galten Speicherorte in der Cloud als Synonym für Komfort und Flexibilität. Daten sind von überall erreichbar, Geräte lassen sich synchronisieren, Backups erfolgen automatisch. Mit zunehmender Nutzung ist jedoch auch das Bewusstsein für mögliche Risiken gewachsen. Die Studie zeigt, dass inzwischen 56 Prozent der Befragten besonderen Wert auf klare und transparente Vertragsbedingungen legen. Damit rückt ein Aspekt in den Mittelpunkt, der lange als Nebensache galt: Transparenz. Sie ist aus Nutzersicht nicht nur eine rechtliche Frage, sondern bestimmt, ob Menschen verstehen, wie ein Dienst mit ihren Daten umgeht. Wo werden Daten gespeichert? Wer kann darauf zugreifen? Welche Rechte behält der Anbieter? Solche Fragen waren früher vor allem im Unternehmensumfeld relevant. Heute setzen sich immer mehr private Nutzerinnen und Nutzer mit diesen Fragen auseinander.

Diese Entwicklung ist nicht überraschend. Datenschutzdebatten, Berichte über Datenlecks oder Diskussionen über internationale Datenübermittlungen haben das öffentliche Bewusstsein geschärft. Viele Menschen beschäftigen sich intensiver mit Nutzungsbedingungen und prüfen genauer, welchen Diensten sie ihre Daten anvertrauen.

Verschlüsselung als technische Vertrauensbasis

Neben der Transparenz von Verträgen spielt die technische Absicherung eine zentrale Rolle. Laut Studie nennen 52 Prozent der Befragten Verschlüsselung als entscheidendes Kriterium bei der Auswahl eines Cloudspeicher-Dienstes. Damit wird deutlich, dass Sicherheitsmechanismen nicht mehr nur als technisches Detail wahrgenommen werden.

Verschlüsselung erfüllt dabei mehrere Funktionen. Sie schützt Daten während der Übertragung ebenso wie bei der Speicherung. Selbst wenn unbefugte Personen Zugriff auf die Infrastruktur erhalten, bleiben die Inhalte ohne passende Schlüssel unlesbar. Für Nutzerinnen und Nutzer ist dies ein zentraler Faktor, um die Kontrolle über sensible Informationen zu behalten.

Gleichzeitig signalisiert eine konsequente Verschlüsselungsstrategie, dass Anbieter Sicherheitsfragen ernst nehmen. In einem Umfeld, in dem digitale Dienste immer stärker miteinander vernetzt sind, gewinnt dieser Aspekt zusätzlich an Bedeutung. Daten aus Cloud-Speichern werden häufig mit anderen Anwendungen synchronisiert, etwa mit Smartphones, Arbeitsgeräten oder Kollaborationstools. Jede dieser Schnittstellen erhöht potenziell die Angriffsfläche. Entsprechend wichtig ist eine durchgängige Absicherung entlang der gesamten Datenkette.

Skepsis gegenüber der Cloud bleibt verbreitet

Trotz der weiten Verbreitung digitaler Dienste bleibt ein Teil der deutschen Bevölkerung zurückhaltend gegenüber Cloudspeicher-Lösungen. Die Studie zeigt deutlich welche Gründe dahinterstehen. Besonders häufig wird der Wunsch nach lokaler Speicherung genannt. 88 Prozent der Nicht-Nutzer geben an, ihre Daten lieber auf eigenen Geräten zu behalten. Dahinter steht meist das Bedürfnis nach direkter Kontrolle.

Skepsis gegenüber der Cloud bleibt verbreitet, Bild: STRATO

Hinzu kommt die Sorge vor unbefugtem Zugriff. 79 Prozent der Befragten, die Cloudspeicher-Dienste meiden, nennen dieses Risiko als entscheidenden Faktor. Auch diese Zahl zeigt, wie stark Sicherheitsfragen das Vertrauen in digitale Dienste prägen.

Technisch betrachtet ist der Cloudspeicher nicht unsicherer als lokale Speicherlösungen. Professionell betriebene Rechenzentren verfügen zudem in der Regel über deutlich umfangreichere Sicherheitsmechanismen als private Geräte. Dennoch bleibt das Gefühl bestehen, dass Daten außerhalb der eigenen Infrastruktur schwerer kontrollierbar sind. Dieses Spannungsfeld zwischen technischer Realität und subjektiver Wahrnehmung prägt die Debatte um Cloudspeicher-Dienste bis heute.

Neue Anforderungen an Anbieter

Die Ergebnisse der Studie deuten auf eine grundlegende Verschiebung der Erwartungen hin. Während Cloudspeicher-Dienste früher vor allem mit Komfort und Speicherplatz assoziiert wurden, rücken heute Fragen der Sicherheit, Kontrolle und Transparenz stärker in den Mittelpunkt.

Für Anbieter bedeutet das, dass technische Schutzmaßnahmen allein nicht ausreichen. Ebenso wichtig ist eine verständliche Kommunikation über Sicherheitskonzepte, Vertragsbedingungen und Datenverarbeitung. Nutzerinnen und Nutzer wollen nachvollziehen können, wie ihre Daten geschützt werden und welche Rechte sie behalten.

Diese Entwicklung kann als generelle Reifung digitaler Märkte interpretiert werden. Je stärker digitale Dienste in den Alltag integriert sind, desto höher sind die Anforderungen an ihre Zuverlässigkeit und Sicherheit. In gewisser Weise nähern sich private Nutzerinnen und Nutzer damit der Perspektive von IT-Abteilungen in Unternehmen an. Vertragsdetails, Serverstandorte und Sicherheitsmechanismen werden zunehmend kritisch hinterfragt und geprüft.

Datenschutz als Wettbewerbsfaktor

Die wachsende Sensibilität für Datenschutz und Sicherheit verändert auch den Wettbewerb zwischen Cloudspeicher-Anbietern. Dienste, die intransparent arbeiten oder Sicherheitsaspekte vernachlässigen, stoßen zunehmend auf Skepsis. Gleichzeitig steigt die Bedeutung von nachvollziehbaren Sicherheitskonzepten und klaren Vertragsstrukturen.

Kriterien für Cloud-Speicher, Bild: STRATO

Cloudspeicher bleiben ein zentraler Bestandteil digitaler Infrastruktur. Doch ihre Akzeptanz ist an klare Bedingungen geknüpft. Wer Vertrauen gewinnen will, muss zeigen, wie Daten geschützt werden und unter welchen Rahmenbedingungen sie verarbeitet werden. Für Nutzerinnen und Nutzer ist Datenschutz längst kein Randthema mehr, sondern ein entscheidender Faktor bei der Wahl digitaler Dienste.

Über die Studie

Im Rahmen der Cloudspeicher-Nutzungsstudie von STRATO wurden im August 2025 rund 1.000 Bürger zwischen 18 und 75 Jahren in Deutschland befragt. Die repräsentative Online-Erhebung erfolgte durch Forsa (Deutschland) sowie einen renommierten Studienpartner in den Niederlanden und Schweden. Die Ergebnisse sind repräsentativ mit einer statistischen Fehlertoleranz von +/- 3 Prozentpunkten. Download der Studie und weitere Informationen unter https://www.strato.de/cloud-speicher/studie/

Katharina Oriefe-Briand, Brand Marketing, STRATO, Bild: STRATO

Über die Autorin

Katharina Oriefe-Briand verantwortet bei STRATO den Bereich Brand Marketing. Sie entwickelt dort Kommunikationsstrategien für die Brand- und Produktplatzierung in verschiedenen Kanälen.

Weitere Informationen zum Thema:

datensicherheit.de, 24.12.2025
Cloud-Nutzung: Auswege für KMU aus dem Dilemma der Datensouveränität

Von unserem Gastautor Thomas Kress, Geschäftsführer, Deutsche Cyberkom GmbH

[datensicherheit.de, 30.03.2026] NIS2 wird in vielen Unternehmen noch immer operativ interpretiert. Maßnahmen werden erweitert, Kontrollen verschärft, Compliance-Strukturen angepasst. Doch die eigentliche Veränderung liegt auf einer anderen Ebene. Geschäftsleitungen und Aufsichtsgremien müssen künftig nicht nur Verantwortung tragen, sondern diese auch aktiv und nachvollziehbar wahrnehmen.

Thomas Kress, Geschäftsführer, Deutsche Cyberkom GmbH, © Deutsche Cyberkom

Damit verschiebt sich der Maßstab. Nicht die Anzahl der Maßnahmen ist entscheidend, sondern die Fähigkeit zur Steuerung. Genau hier zeigt sich in der Praxis eine deutliche Lücke.

Vom ISMS zur echten Steuerungslogik

Viele Unternehmen verfügen über etablierte Informationssicherheitsmanagementsysteme, häufig orientiert an ISO 27001. Diese schaffen Struktur, ersetzen aber keine Steuerung auf Vorstandsebene. NIS2 fordert genau diese Übersetzung.

Cyberrisiken müssen so aufbereitet werden, dass sie für die Geschäftsleitung verständlich und entscheidungsfähig sind. Technische Schwachstellen allein reichen nicht aus. Erst die Verknüpfung mit geschäftlichen Auswirkungen macht Risiken steuerbar.

In der Praxis fehlt häufig genau dieser Schritt. Informationen bleiben technisch, während die Führungsebene keine klare Entscheidungsbasis erhält.

Die fünf Kennzahlen für die Führungsebene

Für eine wirksame Steuerung haben sich fünf Kennzahlen bewährt, die auf Vorstandsebene belastbar sind:

• Der aggregierte Risikostatus kritischer Geschäftsprozesse zeigt, wie stark das Kerngeschäft aktuell gefährdet ist und basiert auf Business Impact Analysen sowie aktuellen Bedrohungslagen.
• Die Mean Time to Detect misst die Zeit bis zur Erkennung eines Vorfalls und gibt Aufschluss über die Effektivität von Monitoring und Detection.
• Die Mean Time to Recover beschreibt die Wiederherstellungszeit kritischer Systeme und damit die operative Resilienz des Unternehmens.
• Der Umsetzungsgrad priorisierter Maßnahmen zeigt, ob definierte Sicherheitsmaßnahmen tatsächlich umgesetzt werden und wo Verzögerungen bestehen.
• Die Third-Party Risk Exposure bewertet die Risiken durch externe Dienstleister und Lieferketten, die zunehmend zum entscheidenden Angriffspunkt werden.

Diese Kennzahlen verdichten komplexe Sachverhalte auf ein Niveau, das fundierte Entscheidungen ermöglicht.

Reporting als Entscheidungsgrundlage

Ein entscheidender Erfolgsfaktor ist das Reporting. Umfangreiche technische Berichte sind auf Vorstandsebene nicht zielführend. Entscheidend ist eine klare und reduzierte Darstellung.

Ein einseitiges Management-Update hat sich in der Praxis bewährt. Es enthält eine eindeutige Gesamteinschätzung der Risikolage, die Entwicklung der zentralen Kennzahlen sowie die aktuell kritischsten Risiken.

Wesentlich ist die Übersetzung in geschäftliche Auswirkungen. Welche Prozesse sind betroffen, welche operativen oder finanziellen Konsequenzen entstehen können.

Abschließend müssen konkrete Entscheidungsbedarfe formuliert werden. Erst dadurch wird aus Reporting echte Steuerung.

Haftung als Frage der Nachvollziehbarkeit

Die persönliche Haftung wird häufig als abstraktes Risiko wahrgenommen. In der Praxis ist sie vor allem eine Frage der Nachvollziehbarkeit.

Geschäftsleitungen müssen zeigen können, dass Risiken bekannt sind, bewertet werden und auf dieser Grundlage Entscheidungen getroffen wurden. Die Existenz von Risiken ist dabei nicht ausschlaggebend.

Kritisch wird es, wenn Transparenz fehlt oder bekannte Risiken ignoriert werden. NIS2 erhöht hier die Anforderungen an strukturiertes und dokumentiertes Handeln.

Typische Schwächen in der Umsetzung

In vielen Organisationen liegt der Fokus weiterhin auf technischen Maßnahmen. Gleichzeitig fehlt die Integration in die Unternehmenssteuerung.

Cybersecurity wird operativ umgesetzt, aber nicht strategisch geführt. Risiken werden identifiziert, aber nicht priorisiert. Reporting ist vorhanden, aber nicht entscheidungsorientiert.

Diese Diskrepanz führt zu einer Scheinsicherheit, die durch NIS2 zunehmend hinterfragt wird.

Fazit

NIS2 verschiebt den Fokus von einzelnen Maßnahmen hin zur Fähigkeit, Risiken aktiv zu steuern. Geschäftsleitungen werden daran gemessen, ob sie Informationssicherheit nachvollziehbar führen.

Ein klar definiertes Set an Kennzahlen, ein reduziertes und entscheidungsorientiertes Reporting sowie die Integration in bestehende Governance-Strukturen bilden die Grundlage dafür. Unternehmen, die diese Übersetzung schaffen, erreichen nicht nur regulatorische Konformität, sondern echte Resilienz.

Über den Autor:

Thomas Kress ist ein erfahrener IT-Sicherheitsexperten im deutschsprachigen Raum und Geschäftsführer der Deutschen CyberKom. Nach über 25 Jahren in leitenden Rollen bei internationalen IT-Projekten gründete er sein eigenes Unternehmen, das heute unter dem Dach der Deutschen CyberKom IT-Security und Telekommunikation strategisch vereint. Darüber hinaus ist Kress gefragter Fachautor in IT- und Wirtschaftspublikationen. Als Berater betreut er führende Unternehmen sowie Systemhäuser in Sicherheitsfragen, Infrastruktur und digitaler Souveränität.

Weitere Informationen zum Thema:

datensicherheit.de, 28.03.2026
NIS2 wird nicht an der Technologie scheitern – sondern am Faktor Mensch

Von unserem Gastautor Fino Scholl, Managing Director, Swiss GRC Germany

[datensicherheit.de, 25.03.2026] Künstliche Intelligenz verändert den Cybersecuritymarkt stärker als viele andere Innovationen der letzten Jahre. Geprüfte Studien zeigen: Die Identifikation von Schwachstellen in Software sowie die Entwicklung potenziell schädlicher Codes gelingt durch KI schneller, präziser und skalierbarer als je zuvor.

Diese Entwicklung verändert die Regeln. Für Verteidiger und Angreifer gleichermaßen. Denn KI wird zum Beschleuniger für beide Seiten. Die entscheidende Frage lautet daher nicht mehr, ob KI eingesetzt wird, sondern wie sie gesteuert wird. Was bedeutet das konkret für CTOs, CISOs und CSOs 2026?

Cybersecurity bleibt Herausforderung im deutschen Mittelstand

In vielen Unternehmen wird KI noch immer primär als Technologieprojekt verstanden. Zuständig ist die IT-Abteilung, bewertet werden Effizienzgewinne oder Automatisierungspotenziale. Diese Sichtweise greift deutlich zu kurz.

KI entwickelt sich zunehmend zu einem entscheidungsrelevanten Faktor mit unmittelbaren Auswirkungen auf Risikoexposition, Haftung und regulatorische Anforderungen. Systeme treffen automatisierte Entscheidungen, priorisieren Risiken, analysieren Anomalien oder steuern Prozesse in Echtzeit. Damit berühren sie nicht nur technische, sondern auch organisatorische und strategische Fragestellungen.

Gerade im deutschen Mittelstand fehlt häufig eine klare Governance-Perspektive. Es fehlt branchenunabhängig an Awareness, Expertise, Ressourcen und Infrastrukturen in diesem Bereich. Langfristig entsteht daraus ein erhebliches Risiko. Aus technologischer Hinsicht. Aber auch aus wirtschaftlicher. Denn schon 2025 entstand in Deutschland ein wirtschaftlicher Schaden von 202,4 Milliarden Euro durch IT-Angriffe. 2024 waren es noch 178,6 Mrd. Euro

Wer KI ausschließlich als praktikables Tool für Routinemaßnahmen betrachtet, unterschätzt ihre strukturelle Wirkung. Denn mit jedem KI-gestützten Prozess entstehen neue Abhängigkeiten, neue Angriffsflächen und neue Verantwortlichkeiten.

Effizienzgewinn vs. Sicherheitsrisiko

Unbestritten ist: KI kann Cyberabwehr deutlich stärken. Automatisierte Log-Analysen, Anomalieerkennung, prädiktive Risikoanalysen oder intelligente Zugriffskontrollen erhöhen die Reaktionsgeschwindigkeit erheblich. Sicherheitsvorfälle lassen sich früher identifizieren und priorisieren.

Gleichzeitig steigt jedoch die Komplexität. KI-Systeme basieren häufig auf externen Modellen, Cloud-Infrastrukturen oder Drittanbieter-Services. Trainingsdaten stammen aus unterschiedlichen Quellen, Algorithmen sind nicht immer vollständig nachvollziehbar.

Damit entstehen neue Risikodimensionen:

• Transparenzdefizite: Black-Box-Modelle erschweren Nachvollziehbarkeit und Auditierbarkeit.
• Drittanbieter-Abhängigkeiten: Externe KI-Services erweitern die Lieferkette und erhöhen Third-Party-Risiken.
• Neue Angriffsformen: Prompt Injection, Model Poisoning oder manipulierte Trainingsdaten eröffnen zusätzliche Angriffsszenarien.

KI wird so selbst zum Risikofaktor. Insbesondere dann, wenn sie unstrukturiert eingeführt wird.

Regulatorische Anforderungen erhöhen den Handlungsdruck

Parallel zur technologischen Dynamik steigt der regulatorische Druck. Mit NIS-2, DORA und dem Cyber Resilience Act rückt die Steuerung digitaler Risiken auf Management-Ebene. KI-Anwendungen fallen damit nicht mehr ausschließlich in den Verantwortungsbereich der IT, sondern werden Teil des unternehmensweiten Governance-, Risk- und Compliance-Frameworks.

Die regulatorische Logik ist eindeutig: Digitale Resilienz ist eine Führungsaufgabe. Risiken müssen identifiziert, bewertet, dokumentiert und kontinuierlich überwacht werden. Das gilt auch und insbesondere für KI-gestützte Prozesse.

Relevante EU-Maßnahmen im Zusammenhang mit KI und Cybersecurity, Bild: Swiss GRC Germany

Unternehmen stehen somit vor einer doppelten Herausforderung: Sie müssen KI nutzen, um wettbewerbsfähig und resilient zu bleiben. Gleichzeitig müssen sie sicherstellen, dass deren Einsatz kontrollierbar, prüfbar und regelkonform erfolgt.

Unterschätzte Risiken im KI-Einsatz

In der Praxis zeigen sich immer wieder miteinander vergleichbare Schwachstellen. Häufig werden KI-Tools dezentral eingeführt, etwa durch Fachabteilungen, die Effizienzpotenziale heben wollen. Governance-Strukturen hinken hinterher.

Typische Problemfelder sind:

1. Fehlende Risikoklassifizierung: Nicht jede KI-Anwendung ist gleich kritisch. Ohne strukturierte Bewertung fehlt die Priorisierung.
2. Unklare Verantwortlichkeiten: Wer haftet bei Fehlentscheidungen eines Systems?
3. Mangelnde Dokumentation: Ohne transparente Prozesse sind Prüfungen kaum möglich.
4. Unzureichendes Monitoring: KI-Modelle können sich durch Updates, neue Trainingsdaten oder Modellanpassungen verändern. Ohne kontinuierliche Kontrolle entstehen blinde Flecken.

Gerade regulierte Branchen in Deutschland, zum Beispiel der Finanzsektor, Versicherungen oder kritische Infrastrukturen, können sich solche Lücken nicht leisten. Hier wirken technologische Defizite unmittelbar auf Haftung, Reputationsrisiken und Geschäftsmodellstabilität.

Governance, Risk & Compliance (GRC) als strukturierender Rahmen

Die zentrale Frage lautet daher: Wie lassen sich Chancen und Risiken von KI systematisch steuern? Hier kommt Governance, Risk & Compliance (GRC) ins Spiel. GRC ist kein bürokratisches Add-on, sondern der strukturierende Rahmen, um technologische Innovation kontrollierbar zu machen.

Ein wirksames GRC-Framework, Bild: Swiss GRC Germany

Erst durch die Einbettung in diesen Rahmen wird KI somit zu einem steuerbaren Bestandteil der Unternehmensarchitektur.

KI verstärkt bestehende Stärken und Schwächen

Ein häufiger Irrtum besteht darin, KI als Ersatz für Sicherheitsstrategien zu betrachten. Tatsächlich wirkt sie wie ein Verstärker. In Organisationen mit klaren Prozessen, definierten Zuständigkeiten und etabliertem Risikomanagement erhöht sie Effizienz und Transparenz.

In Unternehmen mit fragmentierten Strukturen verstärkt sie hingegen Intransparenz und Kontrollverlust. Cybersecurity 2026 wird daher nicht allein durch Technologie entschieden, sondern durch Governance-Qualität. Wer KI ohne strukturiertes Risikomanagement implementiert, verschiebt Probleme lediglich. Oft in Bereiche, die erst bei einem Audit oder Sicherheitsvorfall sichtbar werden.

Digitale Resilienz braucht Steuerbarkeit

• Die Ambivalenz von KI ist Realität: Sie ermöglicht präzisere Angriffe und gleichzeitig effektivere Verteidigung. Unternehmen können sich dieser Dynamik nicht entziehen.
  Entscheidend ist, KI nicht isoliert als IT-Instrument zu betrachten, sondern als strategischen Faktor innerhalb der Unternehmenssteuerung. Digitale Resilienz entsteht dort, wo Innovation und Kontrolle zusammengedacht werden.
• Für Entscheider bedeutet das: KI gehört auf die Agenda von Vorstand, Geschäftsführung und Risikokomitees. Nicht als technisches Detail, sondern als integraler Bestandteil von Governance, Risk & Compliance.
  Denn ohne KI wird Cybersecurity 2026 nicht funktionieren. Aber ohne wirksames GRC wird KI zum unkalkulierbaren Risiko.

Fino Scholl, Managing Director, Swiss GRC Germany, Bild: Swiss GRC Germany

Fino Scholl ist Managing Director der Swiss GRC Germany GmbH und verantwortet den Ausbau des Deutschlandgeschäfts sowie die Weiterentwicklung der Marktaktivitäten des Unternehmens. Zuvor war er in leitenden Funktionen bei der IAV im Risiko- und Kontrollumfeld sowie in der industriellen Forschung tätig. Scholl promovierte im Maschinenbau an der Universidad de Valladolid und hält einen Masterabschluss der Karlsruhe University of Applied Sciences.

Weitere Informationen zum Thema:

datensicherheit.de, 08.11.2025
Einsatz von KI-Agenten: Lückenlose Governance für Unternehmen mittlerweile unerlässlich

datensicherheit.de, 04.07.2025
Intensive KI-Nutzung in Unternehmen – Entwicklung von Richtlinien und Governance fällt zurück

Von unserem Gastautor Roman Spitzbart, VP Solutions Engineering EMEA bei Dynatrace

[datensicherheit.de, 24.03.2026] Cloud-Infrastrukturen sind heute das digitale Rückgrat von Behörden, Unternehmen und Organisationen – und damit auch ein attraktives Ziel für Angriffe und Missbrauch. Wer moderne Systeme betreibt, muss nicht nur für Leistung und Verfügbarkeit sorgen, sondern auch für Kontrolle, Nachvollziehbarkeit und Sicherheit. Dabei ist die Grundlage jeder Entscheidung eine verlässliche Datenbasis: präzise, vollständig und strukturiert erfassbar. Genau hier kommt OpenTelemetry ins Spiel – ein offener Standard, der sich zunehmend als technische Basis für Observability durchsetzt.

Roman Spitzbart, VP Solutions Engineering EMEA bei Dynatrace, Bild: Dynatrace

OpenTelemetry – Transparenz ist Voraussetzung für sichere, auditierbare und steuerbare IT-Prozesse

OpenTelemetry ermöglicht es, Metriken, Logs und Traces aus unterschiedlichsten Systemen konsistent zu erfassen, unabhängig von Sprache, Anbieter oder Infrastruktur. Das schafft eine gemeinsame Sprache für Betriebsdaten, die besonders in hybriden oder stark regulierten Umgebungen essenziell ist. Denn Transparenz ist keine Option mehr, sondern Voraussetzung für sichere, auditierbare und steuerbare IT-Prozesse.

Insbesondere im Hinblick auf Sicherheitsanforderungen ist die Offenheit von OpenTelemetry ein zentraler Vorteil. Statt auf abgeschottete Monitoring-Tools mit proprietären Formaten angewiesen zu sein, lassen sich mit OTel standardisierte Datenpfade etablieren. Sie dienen als Grundlage für nachvollziehbares Security-Monitoring, sowohl im Tagesbetrieb als auch im Fall forensischer Analysen. So entsteht ein verlässliches Fundament für Transparenz, das technologische Offenheit mit operativer Sicherheit verbindet.

Vom Datenstrom zum Systemverständnis

Doch mit der bloßen Erfassung ist wenig gewonnen. Erst wenn Telemetriedaten intelligent analysiert und in Zusammenhang gestellt werden, entsteht ein vollständiges Lagebild. Das betrifft nicht nur Performance oder Verfügbarkeit, sondern erfassen vermehrt auch sicherheitsrelevante Zusammenhänge innerhalb der Systemarchitektur. Wo treten ungewöhnliche Zugriffsmuster auf? Welche Services interagieren unerwartet miteinander? Wurden in einer bestimmten Umgebung neue Konfigurationsdateien geladen?

Moderne Observability-Plattformen übernehmen hier die Aufgabe, Signale zu verknüpfen, Systemtopologien zu verstehen und Muster in Echtzeit zu erkennen. Dadurch werden Zusammenhänge sichtbar, die mit klassischen Monitoring-Lösungen oft verborgen bleiben. Ein einzelner Logeintrag oder ein auffälliger Metrikwert erhält erst dann Bedeutung, wenn er in Beziehung zu Traces, Deployments oder User-Verhalten gesetzt wird.

Gerade in sicherheitsrelevanten Systemlandschaften ist diese Fähigkeit zentral. Sie ermöglicht es, verdeckte Risiken zu erkennen, operative Unregelmäßigkeiten zu bewerten und technische Schwachstellen nicht nur zu vermuten, sondern nachzuweisen. Das reduziert die Reaktionszeit im Ernstfall und stärkt zugleich die strategische Fähigkeit, Systeme resilient und kontrollierbar zu betreiben.

Causal AI im Dienst der Ursachenanalyse

Mit wachsender Systemkomplexität steigen auch die Anforderungen an die Analyse. Die manuelle Rekonstruktion von Ursache-Wirkung-Zusammenhängen wird schnell zur Überforderung – vor allem im Kontext sicherheitsrelevanter Zwischenfälle, bei denen schnelle Ursachenklärung gefragt ist. Hier setzt Causal AI an: ein Analyseansatz, der nicht nur Muster erkennt, sondern gezielt nach den zugrunde liegenden Auslösern sucht.

Causal AI unterscheidet sich von herkömmlicher Künstlicher Intelligenz vor allem durch die Nachvollziehbarkeit ihrer Ergebnisse. Sie analysiert nicht nur Korrelationen, sondern rekonstruiert kausale Zusammenhänge. In einigen Szenarien ist das besonders entscheidend – etwa zur präzisen Rekonstruktion eines Datenlecks oder zur forensischen Aufarbeitung einer kompromittierenden Systemaktivität.

Die Bedeutung dieser Technologie zeigt sich auch in der Praxis: Statt pauschale Alarmmeldungen zu erzeugen, liefert Causal AI konkrete, priorisierte Ursachenketten. So lässt sich etwa nachvollziehen, dass ein Konfigurationsfehler in einer spezifischen Build-Umgebung zu einer Eskalation im Zugriffssystem geführt hat, verbunden mit klaren Zeitstempeln, Systempfaden und Benutzerinteraktionen. Für Sicherheitsteams bedeutet das: weniger Aufwand bei der Ursachenanalyse, höhere Verlässlichkeit in der Bewertung und eine bessere Grundlage für Berichte, Audits und Reaktionen.

Von reaktiv zu präventiv

Sicherheitsarbeit beginnt heute nicht mehr mit dem Alarm, sondern mit der systematischen Vermeidung von Risiken. Wer erst reagiert, wenn der Schaden bereits entstanden ist, handelt zu spät. Präventive Sicherheit erfordert die Fähigkeit, Anomalien frühzeitig zu erkennen, Risiken automatisch zu bewerten und proaktiv gegenzusteuern. AI-gestützte Observability-Plattformen liefern dafür die technische Grundlage.

Wenn Telemetriedaten nicht nur gesammelt, sondern kontinuierlich analysiert und bewertet werden, entsteht ein Frühwarnsystem, das sowohl technische als auch sicherheitsbezogene Abweichungen zuverlässig erkennt. Beispielsweise kann eine Plattform registrieren, dass ein bestimmter Authentifizierungsmechanismus in mehreren Regionen ungewöhnlich oft scheitert – ein potenzieller Hinweis auf ein Brute-Force-Szenario. Oder sie stellt fest, dass sich die Latenz eines internen Services in Verbindung mit einer neuen Container-Version signifikant verändert, mit möglichen Auswirkungen auf die Zugriffssteuerung.

Der entscheidende Fortschritt liegt jedoch nicht nur in der Erkennung, sondern in der Handlungsfähigkeit: moderne Systeme liefern konkrete Empfehlungen für Gegenmaßnahmen, basierend auf bekannten Mustern und kontextuellen Bewertungen. Diese Vorschläge lassen sich in automatisierte Reaktionspfade integrieren – von der Priorisierung über das Alert-Routing bis hin zur Umsetzung durch integrierte Workflows. Damit wird Sicherheit nicht zur Reaktion, sondern zum kontinuierlich lernenden System.

Offenheit trifft Automatisierung – auch in der Security

Der zentrale Gewinn liegt in der Verbindung von Offenheit und Automatisierung. OpenTelemetry liefert die Grundlage für eine einheitliche Datenerhebung, moderne DevOps-Prozesse schaffen die Flexibilität für dynamische Infrastrukturen – und intelligente Plattformen übersetzen diese Daten in belastbare Entscheidungen. Für Sicherheitsverantwortliche entsteht daraus eine Infrastruktur, die Transparenz, Kontrolle und Reaktion in einem integrierten Prozess vereint.

Gerade in verteilten oder regulierten Umgebungen zeigt sich der Vorteil eines solchen Ansatzes: Statt mühsam Informationen aus Einzelsystemen zusammenzutragen, liegt ein vollständiges, strukturiertes und jederzeit nachvollziehbares Bild vor – für Audits ebenso wie für den operativen Alltag. Das reduziert die Fehleranfälligkeit, entlastet Personalressourcen und erhöht die Fähigkeit, auch unter Druck sicherheitsrelevante Entscheidungen zu treffen.

Die klassische Trennung zwischen Security, Operations und Development wird dadurch zunehmend obsolet. Statt in isolierten Fachdisziplinen zu arbeiten, greifen Prozesse, Daten und Verantwortlichkeiten ineinander. Und genau darin liegt der eigentliche Fortschritt: Observability wird zum Bindeglied zwischen Technologie und Sicherheit, zwischen Erkennen und Handeln, zwischen operativer Realität und strategischer Steuerung.

Weitere Informationen zum Thema:

datensicherheit.de, 01.03.2026
Software mit bekannten Sicherheitslücken bei 87 Prozent der Unternehmen in Betrieb

datensicherheit.de, 17.02.2026
Cybersicherheit – Wenn eine verzerrte Selbstwahrnehmung zum Sicherheitsrisiko wird

Ein Kommentar von Gerald Eid, Regional Managing Director EMEA bei Getronics

[datensicherheit.de, 19.03.2026] Jüngste Medienberichte über den Energiekonzern E.ON zeichnen ein alarmierendes Bild: Dass täglich hunderte Cyberangriffe abgewehrt werden müssen und sich die Zahl der Attacken binnen fünf Jahren verzehnfacht hat, markiert einen kritischen Wendepunkt für den Wirtschaftsstandort Deutschland. Die Sicherheit unserer Energieversorgung ist kein stabiler Zustand mehr, sondern ein permanenter Abwehrkampf.

Gerald Eid, Regional Managing Director EMEA bei Getronics, Bild: Getronics

Geopolitische Spannung erzeugen Handlungsbedarf

Die aktuellen geopolitischen Spannungen verpflichten die deutsche Wirtschaft zum Handeln. Die Gefahr für die eigene Produktion kommt heute über die Steckdose: Ein erfolgreicher Angriff auf den Netzbetreiber führt unmittelbar zum Stillstand der physischen Abläufe. Jeder muss heute auf den Ernstfall einer Katastrophe wie einen langanhaltenden Stromausfall vorbereitet sein. Unternehmen, die diese Risiken nicht sehen oder gar verdrängen, handeln nicht nur fahrlässig, sondern schlichtweg nicht mehr wirtschaftlich.

Das Risiko-Duo: Instabile Stromnetze und digitale Einfallstore

Wir erleben gerade eine gefährliche Zuspitzung, bei der physische Instabilität auf digitale Verwundbarkeit trifft. Während die Belastbarkeit der Stromnetze durch extreme Wetterereignisse und schwankende Lasten ohnehin an ihre Grenzen stößt, vergrößert die rasant fortschreitende Vernetzung von Industrie und Gesundheitswesen die Angriffsfläche massiv. In diesem überreizten System wird jeder neue digitale Zugangspunkt zu einem kritischen Risiko, da schon minimale Störungen ausreichen, um eine systemweite Kettenreaktion auszulösen.

Ein systemischer Kollaps beginnt dabei fast nie im Kraftwerk selbst. Er startet an den digitalen Schnittstellen. Ein kompromittierter Zugang am Arbeitsplatz kann die Brücke schlagen, über die sich ein Angreifer bis in die sensiblen Steuerungssysteme der Netze vorarbeitet. Damit wird die Büroumgebung zum potenziellen Auslöser für einen großflächigen Blackout.

Strategien für eine krisenfeste Energieversorgung:

• Eigenständige Stromversorgung durch Insel-Lösungen: Unternehmen müssen in der Lage sein, ihre Standorte autark zu betreiben. Dezentrale Anlagen mit lokaler Energieerzeugung und intelligenter Steuerung ermöglichen es, sich bei Instabilitäten sofort vom Hauptnetz abzukoppeln und kritische Prozesse unterbrechungsfrei weiterzuführen.
• Aktive Laststeuerung als Schutzschild: Durch die enge Verknüpfung von IT und Gebäudetechnik lassen sich Stromflüsse in Echtzeit steuern. Wer seinen Bedarf über digitale Kontrollinstrumente überwacht und bei Bedarf senkt, entlastet nicht nur die eigenen Kosten, sondern stabilisiert aktiv das Gesamtsystem und verhindert so eine provozierte Überlastung der Netze.
• Gesetzliche Vorgaben als strategischer Anker: Die neuen EU-Richtlinien sind weit mehr als eine reine Pflichtübung. NIS2 und die CER-Richtlinie fordern zu Recht, dass Maßnahmen zur Katastrophenhilfe und zum Schutz kritischer Anlagen fester Bestandteil der Unternehmensführung werden. Es geht darum, das Risikomanagement über die eigenen Werkstore hinaus auf die gesamte Versorgungskette auszuweiten.
• Vorsorge für extreme Ausfallszenarien: Da absolute Sicherheit nicht existiert, entscheidet die Reaktionsfähigkeit im Ernstfall. Ausgearbeitete Notfallpläne für einen langanhaltenden Stromausfall sind heute das einzige Mittel, um die massiven Kosten eines kompletten Produktionsstopps abzufedern.

Die aktuelle Bedrohungslage beweist, dass Cybersicherheit und die physische Verfügbarkeit von Energie untrennbar zusammengehören. Echte Vorsorge beginnt beim Schutz des einzelnen Nutzers und endet erst bei einer Architektur, die auch ohne externe Stromzufuhr handlungsfähig bleibt.

Weitere Informationen zum Thema:

datensicherheit.de, 09.01.2026
TÜV-Verband zum Stromausfall in Berlin: Deutschlands Infrastruktur braucht mehr Resilienz

datensicherheit.de, 14.08.2023
Drohender Totalausfall: Sicherheitslücken in Rechenzentren könnten Energieversorgung lahmlegen