[datensicherheit.de, 13.06.2025] Im Kontext der Publikation einer neuen Studie geht Palo Alto Networks auf die sogenannte Generative Künstliche Intelligenz (Generative Artificial Intelligence / GenAI) ein und betont, dass diese „im Jahr 2025 keine experimentelle Technologie“ mehr ist, sondern vielmehr eine unternehmenskritische Lösung, welche Unternehmen unterstützen kann, innovativ zu arbeiten und Daten zu schützen. Zwar ermögliche GenAI „beispiellose Produktivitätssteigerungen“, gleichzeitig führe sie zu neuen, komplexen Risiken: „Während der GenAI-Traffic 2024 um über 890 Prozent gestiegen ist, haben sich sicherheitsrelevante Vorfälle um das 2,5-Fache erhöht.“ Diese Erkenntnisse basieren auf dem „The State of Generative AI Report“ von Palo Alto Networks, welcher sich demnach auf Daten aus über 7.000 Kundenumgebungen weltweit stützt.

Foto: Palo Alto Networks

Martin Zeitler: Entscheidend ist es, Innovation und Schutz nicht als Widerspruch, sondern als gemeinsames Ziel zu verstehen!

Die wichtigsten aktuellen GenAI-Erkenntnisse im Überblick:

• Die Zahl der GenAI-bezogenen Data-Loss-Prevention-Vorfälle (DLP) habe sich im Jahr 2025 im Vergleich zum Vorjahr um das 2,5-Fache erhöht – sie machten nun 14 Prozent aller DLP-Vorfälle aus.
• Unternehmen nutzten im Schnitt 66 verschiedene GenAI-Anwendungen – rund zehn Prozent davon gälten als hochriskant.
• Über 70 Prozent der getesteten GenAI-Apps hätten bei Sicherheitstests problematische Inhalte gezeigt – von diskriminierenden Aussagen bis hin zu Bauanleitungen für Waffen.
• Die Technologie- und Fertigungs-Sektoren trieben den Einsatz von Coding-Plattformen besonders stark voran – allein 39 Prozent aller GenAI-Coding-Transaktionen stammten aus diesen Branchen.
• GenAI-Spitzenreiter sei „DeepSeek-R1“ mit einem Wachstum von 1.800 Prozent nach seinem Start im Januar 2025.
• Sogenannte Shadow AI – also nicht genehmigte GenAI-Nutzung durch Mitarbeiter – sei eine der größten Sicherheitsbedrohungen. Unternehmen registrierten im Schnitt über sechs besonders riskante GenAI-Anwendungen in ihrer Infrastruktur.

Auch DACH-Region mit starker Zunahme des Einsatzes Generativer KI

Auch in der sogenannten DACH-Region (Deutschland, Österreich und Schweiz) zeige sich ein starker Anstieg beim Einsatz Generativer KI, mit regionalen Unterschieden:

• In Deutschland führe „Microsoft Power Apps“ mit 24 Prozent des GenAI-Traffics, gefolgt von ,Grammarly’ (21%) und ,ChatGPT’ (20%).
• In der Schweiz dominiere „Power Apps“ mit 33 Prozent, „MS Office365 Copilot“ folge mit 25 Prozent, „ChatGPT“ mit 17 Prozent.
• In Österreich liege „Grammarly“ mit 33 Prozent vorne, gefolgt von „ChatGPT“ (25%) und „Power Apps“ (22%).

Gleichzeitig würden in deutschen Unternehmensnetzwerken vermehrt Anwendungen genutzt, „die ein besonders hohes Risiko für Datenlecks und Regelverstöße bergen“. Der KI-basierte Interviewer „Micro 1 AI“ mache fast 49 Prozent des risikobehafteten GenAI-Traffics in Deutschland aus. Auch „UseChat“ (etwa 32 Prozent) und „Zendesk AI“ (rund 29 Prozent) gehörten zu den sicherheitskritischen Tools.

Generative KI – Einführung  erfolgt oft schneller als deren sichere Integration

Martin Zeitler, „Senior Director Technical Solutions“ bei Palo Alto Networks, kommentiert: „Die Studienergebnisse offenbaren ein fundamentales Dilemma: Die Einführung von GenAI erfolgt oft schneller als deren sichere Integration. Ohne klare Richtlinien, technische Schutzmechanismen und kontinuierliche Überwachung riskieren Unternehmen nicht nur den Verlust sensibler Daten, sondern auch regulatorische Konsequenzen und Imageschäden.“

Für eine sichere Nutzung empfiehlt Palo Alto Networks unter anderem Zero-Trust-Architekturen, granulare Zugriffskontrollen und Echtzeit-Content-Scanning, um Sicherheitsrisiken frühzeitig zu erkennen und abzuwehren. Zeitler betont abschließend: „Entscheidend ist es, Innovation und Schutz nicht als Widerspruch, sondern als gemeinsames Ziel zu verstehen!“

Weitere Informationen zum Thema:

paloalto NETWORKS, Anand Oswal, 05.06.2025
GenAI’s Impact — Surging Adoption and Rising Risks in 2025

paloalto NETWORKS, 2025
„The State of Generative AI 2025“ / GenAI traffic surged 890%, indicating this technology is increasingly fueling creativity, innovation, and productivity

datensicherheit.de, 28.05.2024
Schatten-KI und EU AI Act: Unternehmen müssen sich den Herausforderungen zeitnah stellen / Philipp Adamidis nimmt Stellung zu Aspekten der erfolgreichen KI-Transformation

datensicherheit.de, 23.05.2025
Sicherer GenAI-Einsatz: Delinea gibt Unternehmen 3 zentrale Tipps / Mittels GenAI erhalten Unternehmen immense Möglichkeit – doch neben Effizienzgewinnen birgt deren kontinuierliche und rasante Weiterentwicklung auch Sicherheitsrisiken

datensicherheit.de, 29.01.2025
GenAI und Menschlicher Faktor wichtigste Datenschutzaspekte / Ein Prozent der Benutzer für 88 Prozent der Datenverlustwarnungen verantwortlich

datensicherheit.de, 03.07.2024
Generative KI gewinnt im Alltag an Bedeutung und definiert Prinzipien der Datensicherheit neu / Joseph Regensburger kommentiert private und berufliche Herausforderungen der KI-Fortentwicklung hinsichtlich der Datensicherheit

[datensicherheit.de, 03.07.2024] „Obwohl die Generative KI erst in den letzten 18 Monaten wirklich Schlagzeilen gemacht hat, spielt sie für viele im Alltag bereits seit Jahren eine große Rolle – ob beruflich oder privat“, betont Joseph Regensburger, „VP of Research“ bei Immuta, in seiner aktuellen Stellungnahme. Diese begegnet uns demnach beispielsweise in Form von virtuellen Assistenten, die personalisierte Empfehlungen aussprechen, oder Systemen, die in Echtzeit die schnellste Route zu einem bestimmten Ziel berechnen. Regensburgers Prognose: „Mit dem Aufkommen Generativer KI erlebt die Technologie ein seither nie dagewesenes Hoch. Für rund 90 Prozent der Führungskräfte steht fest: In den kommenden anderthalb Jahren wird Generative KI im Mittelpunkt ihrer strategischen Ausrichtung stehen.“ Regensburger ist nach eigenen Angaben seit 2017 verantwortlich für die Forschung und Entwicklung bei Immuta und leitet dort ein Team bestehend aus Wissenschaftlern, Mathematikern und Ingenieuren mit dem Ziel, „ein hochmodernes Cloud-Datensicherheitsprodukt zu entwickeln“.

Foto: Immuta

Joseph Regensburger rät, neue Werkzeuge und Prozesse zu implementieren, welche einen umfassenden Schutz aller Datentypen im sich ständig weiterentwickelnden technologischen Umfeld gewährleisten

Druck zur Wettbewerbsfähigkeit darf nicht zur Vernachlässigung der Datensicherheit führen!

Laut einer Studie von Deloitte stimmten jedoch nur ein Viertel der Führungskräfte zu, dass ihre Unternehmen gut auf Governance und Risikofragen im Zusammenhang mit der Einführung von KI vorbereitet seien. „Das kann vor allem im Hinblick auf den ,AI-Act’ schwerwiegende Folgen haben!“, warnt Regensburger.

Denn trotz der Aufgeschlossenheit vieler Unternehmen berge der voreilige Einsatz von KI zahlreiche Risiken. Er betont: „Der Druck, wettbewerbsfähig zu bleiben, darf nicht dazu führen, dass Datensicherheit vernachlässigt wird!“ Zwei Kernfragen, die sich Unternehmen daher stellen sollten: „Welche Auswirkungen hat Generative KI auf die Datensicherheit? Und welche neuen Aufgaben gehen damit einher?“

Strukturierte vs. unstrukturierte Daten stellen unterschiedliche Herausforderungen an Datensicherheit!

Bei strukturierten Daten seien die Prozesse bezüglich Datensicherheit meist klar definiert und leicht zu verwalten: Informationen wie Termine, Seriennummern oder Telefonnummern seien formatiert und typisiert, wodurch sie einfacher zu finden und zu durchsuchen seien. Er erläutert: „Hier setzen Unternehmen in der Regel Sicherheitsprozesse wie rollenbasierte Zugangskontrollen (RBAC) ein, um sicherzustellen, dass nur autorisierte Mitarbeiter auf bestimmte Informationen zugreifen können.“

Unstrukturierte Daten hingegen, wie Videos, E-Mails, Bilder, PDF-Dateien und HTML-Inhalte, seien komplexer in der Handhabung: Diese Formate machten indes den Großteil der weltweit erzeugten Daten aus, seien jedoch schwerer zu analysieren. Steigende Datenmengen und Nutzerzahlen erschwerten es Unternehmen zusätzlich, effektive Datensicherheitsmaßnahmen umzusetzen und präzise Zugriffskontrollen anzuwenden. Einige Unternehmen neigten dazu, diese Daten mit einem „Alles-oder-Nichts“-Ansatz zu verwalten, was entweder zu einem erhöhten Risiko durch uneingeschränkten Zugriff oder zu einer eingeschränkten Nutzung führe.

KI-Nutzung erfordert klare Regeln, um Datensicherheit im komplexen Umfeld zu gewährleisten!

Mit der zunehmenden Komplexität von KI-Systemen und ihrer Integration in Geschäftsprozesse könnten viele Unternehmen mit ihren Datensicherheitsstrategien nicht Schritt halten. Regensburger führt weiter aus: „Das Risiko unbeabsichtigter Datenlecks steigt, was die dringende Notwendigkeit robuster und anpassungsfähiger Datensicherheitsmaßnahmen verdeutlicht.“ Werkzeuge wie „ChatGPT“ rückten persönliche Informationen und Geschäftsgeheimnisse in den Mittelpunkt von Diskussionen.

Um die Datensicherheit in diesem komplexen Umfeld zu gewährleisten, seien neue Werkzeuge und Verfahren erforderlich, „um sicherzustellen, dass Daten zuverlässig geschützt bleiben“. Viele Unternehmen hätten bereits analytische „Data Warehouses“, „Data Lakes“ oder „Lake Houses“ implementiert und konzentrierten sich dabei in erster Linie auf die Sicherheit strukturierter Daten. Mit der zunehmenden Integration Generativer KI änderten sich die Spielregeln in der Datensicherheit grundlegend und es sei für Unternehmen entscheidend, ihre Datensicherheitsmaßnahmen neu zu bewerten.

Rasante KI-Entwicklung unterstreicht Notwendigkeit robuster und anpassungsfähiger Datensicherheits-Rahmenwerke!

„Große Sprachmodelle (LLMs) greifen direkt auf Daten aus der Speicherebene zu, was neue Sicherheitsstrategien erfordert. Die Attributbasierte Zugriffskontrolle (ABAC) bietet hier eine Lösung, indem sie auf einer Vielzahl von Merkmalen basiert, die den Zugriff präziser steuern können“, so Regensburger. ABAC könne beispielsweise den Zugriff von Mitarbeitern weiter einschränken, indem es zeitliche und räumliche Faktoren berücksichtige – zusätzlich könne sie Benutzerverhaltensanalysen integrieren, um Anomalien und potenzielle Sicherheitsbedrohungen zu erkennen, wodurch die allgemeine Sicherheitslage durch kontinuierliche Überwachung und Anpassung an neue Risiken verbessert werde.

Regensburgers Fazit: „Die rasante Entwicklung der KI erhöht auch das Risiko von Datenlecks und adversarialen Angriffen, was die Notwendigkeit robuster und anpassungsfähiger Datensicherheits-Rahmenwerke unterstreicht.“ Um sensible Informationen zu schützen, sollten Organisationen seiner Empfehlung nach „neue Werkzeuge und Prozesse implementieren, die einen umfassenden Schutz aller Datentypen in diesem sich ständig weiterentwickelnden technologischen Umfeld gewährleisten“.

Weitere Informationen zum Thema:

Capgemini, 2024
Embracing a brighter future / INVESTMENT PRIORITIES FOR 2024

Deloitte, Januar 2024
Now decides next: Insights from the leading edge of generative AI adoption / Deloitte’s State of Generative AI in the Enterprise / Quarter one report

Immuta Blog, Lisa White, 31.10.2023
Report Finds Data Security is a Priority for Over 40% of CEOs

datensicherheit.de, 25.04.2024
Generative KI: Jüngste Erkenntnisse von Check Point Research zur Gefahr für die Wahlen 2024 / CPR hat Wahlen welweit beobachtet, um den Einsatz generativer Künstlicher Intelligenz (KI) zu analysieren