Generative KI boomt – zunehmende Sicherheitsrisiken als Kehrseite der Medaille

Zwar ermöglicht Generative KI beispiellose Produktivitätssteigerungen, gleichzeitig führt sie jedoch auch zu neuen, komplexen Risiken

[datensicherheit.de, 13.06.2025] Im Kontext der Publikation einer neuen Studie geht Palo Alto Networks auf die sogenannte Generative Künstliche Intelligenz (Generative Artificial Intelligence / GenAI) ein und betont, dass diese „im Jahr 2025 keine experimentelle Technologie“ mehr ist, sondern vielmehr eine unternehmenskritische Lösung, welche Unternehmen unterstützen kann, innovativ zu arbeiten und Daten zu schützen. Zwar ermögliche GenAI „beispiellose Produktivitätssteigerungen“, gleichzeitig führe sie zu neuen, komplexen Risiken: „Während der GenAI-Traffic 2024 um über 890 Prozent gestiegen ist, haben sich sicherheitsrelevante Vorfälle um das 2,5-Fache erhöht.“ Diese Erkenntnisse basieren auf dem „The State of Generative AI Report“ von Palo Alto Networks, welcher sich demnach auf Daten aus über 7.000 Kundenumgebungen weltweit stützt.

Foto: Palo Alto Networks

Martin Zeitler: Entscheidend ist es, Innovation und Schutz nicht als Widerspruch, sondern als gemeinsames Ziel zu verstehen!

Die wichtigsten aktuellen GenAI-Erkenntnisse im Überblick:

• Die Zahl der GenAI-bezogenen Data-Loss-Prevention-Vorfälle (DLP) habe sich im Jahr 2025 im Vergleich zum Vorjahr um das 2,5-Fache erhöht – sie machten nun 14 Prozent aller DLP-Vorfälle aus.
• Unternehmen nutzten im Schnitt 66 verschiedene GenAI-Anwendungen – rund zehn Prozent davon gälten als hochriskant.
• Über 70 Prozent der getesteten GenAI-Apps hätten bei Sicherheitstests problematische Inhalte gezeigt – von diskriminierenden Aussagen bis hin zu Bauanleitungen für Waffen.
• Die Technologie- und Fertigungs-Sektoren trieben den Einsatz von Coding-Plattformen besonders stark voran – allein 39 Prozent aller GenAI-Coding-Transaktionen stammten aus diesen Branchen.
• GenAI-Spitzenreiter sei „DeepSeek-R1“ mit einem Wachstum von 1.800 Prozent nach seinem Start im Januar 2025.
• Sogenannte Shadow AI – also nicht genehmigte GenAI-Nutzung durch Mitarbeiter – sei eine der größten Sicherheitsbedrohungen. Unternehmen registrierten im Schnitt über sechs besonders riskante GenAI-Anwendungen in ihrer Infrastruktur.

Auch DACH-Region mit starker Zunahme des Einsatzes Generativer KI

Auch in der sogenannten DACH-Region (Deutschland, Österreich und Schweiz) zeige sich ein starker Anstieg beim Einsatz Generativer KI, mit regionalen Unterschieden:

• In Deutschland führe „Microsoft Power Apps“ mit 24 Prozent des GenAI-Traffics, gefolgt von ,Grammarly’ (21%) und ,ChatGPT’ (20%).
• In der Schweiz dominiere „Power Apps“ mit 33 Prozent, „MS Office365 Copilot“ folge mit 25 Prozent, „ChatGPT“ mit 17 Prozent.
• In Österreich liege „Grammarly“ mit 33 Prozent vorne, gefolgt von „ChatGPT“ (25%) und „Power Apps“ (22%).

Gleichzeitig würden in deutschen Unternehmensnetzwerken vermehrt Anwendungen genutzt, „die ein besonders hohes Risiko für Datenlecks und Regelverstöße bergen“. Der KI-basierte Interviewer „Micro 1 AI“ mache fast 49 Prozent des risikobehafteten GenAI-Traffics in Deutschland aus. Auch „UseChat“ (etwa 32 Prozent) und „Zendesk AI“ (rund 29 Prozent) gehörten zu den sicherheitskritischen Tools.

Generative KI – Einführung  erfolgt oft schneller als deren sichere Integration

Martin Zeitler, „Senior Director Technical Solutions“ bei Palo Alto Networks, kommentiert: „Die Studienergebnisse offenbaren ein fundamentales Dilemma: Die Einführung von GenAI erfolgt oft schneller als deren sichere Integration. Ohne klare Richtlinien, technische Schutzmechanismen und kontinuierliche Überwachung riskieren Unternehmen nicht nur den Verlust sensibler Daten, sondern auch regulatorische Konsequenzen und Imageschäden.“

Für eine sichere Nutzung empfiehlt Palo Alto Networks unter anderem Zero-Trust-Architekturen, granulare Zugriffskontrollen und Echtzeit-Content-Scanning, um Sicherheitsrisiken frühzeitig zu erkennen und abzuwehren. Zeitler betont abschließend: „Entscheidend ist es, Innovation und Schutz nicht als Widerspruch, sondern als gemeinsames Ziel zu verstehen!“

Weitere Informationen zum Thema:

paloalto NETWORKS, Anand Oswal, 05.06.2025
GenAI’s Impact — Surging Adoption and Rising Risks in 2025

paloalto NETWORKS, 2025
„The State of Generative AI 2025“ / GenAI traffic surged 890%, indicating this technology is increasingly fueling creativity, innovation, and productivity

datensicherheit.de, 28.05.2024
Schatten-KI und EU AI Act: Unternehmen müssen sich den Herausforderungen zeitnah stellen / Philipp Adamidis nimmt Stellung zu Aspekten der erfolgreichen KI-Transformation

datensicherheit.de, 23.05.2025
Sicherer GenAI-Einsatz: Delinea gibt Unternehmen 3 zentrale Tipps / Mittels GenAI erhalten Unternehmen immense Möglichkeit – doch neben Effizienzgewinnen birgt deren kontinuierliche und rasante Weiterentwicklung auch Sicherheitsrisiken

datensicherheit.de, 29.01.2025
GenAI und Menschlicher Faktor wichtigste Datenschutzaspekte / Ein Prozent der Benutzer für 88 Prozent der Datenverlustwarnungen verantwortlich

datensicherheit.de, 03.07.2024
Generative KI gewinnt im Alltag an Bedeutung und definiert Prinzipien der Datensicherheit neu / Joseph Regensburger kommentiert private und berufliche Herausforderungen der KI-Fortentwicklung hinsichtlich der Datensicherheit