Die Möglichkeiten zur Täuschung von Mitarbeitern mittels GenKI sind inzwischen überwältigend – diese dürfen nicht als vermeintliche „menschliche Firewall“ alleingelassen werden, sondern benötigen neben kontinuierlicher Fortbildung auch der Unterstützung durch geeignete Technisch-Organisatorische Maßnahmen
Der Faktor „Mensch“ gilt bekanntlich in der Fragen der Cybersicherheit als das „schwächste Glied“ – indes sollen Mitarbeiter Phishing erkennen, Deepfakes durchschauen, verdächtige Anweisungen hinterfragen und inzwischen sogar den sicheren Umgang mit KI-Agenten beherrschen.
„Das ist paradox!“, kommentiert Patrick Schraut, „Managing Director Cybersecurity DACH“ bei NTT DATA. Er führt weiter aus, dass früher beim Warnruf „Achtung, Phishing!“ noch ein Blick auf die Absenderadresse, ein Rechtschreibfehler oder eine verdächtige URL gereicht hatte – diese Zeiten seien nun aber vorbei. Generative Künstliche Intelligenz (GenKI) habe die Spielregeln verändert: „Angriffe lassen sich personalisieren, skalieren und sprachlich perfektionieren. Dafür werden Stimmen imitiert, Videos manipuliert oder Nachrichten am Kommunikationsstil einzelner Personen ausgerichtet.“
Ein vermeintlicher CEO könne heute so überzeugend auftreten, dass die bloße visuelle oder akustische Überprüfung nicht mehr ausreiche. Unternehmen benötigten für echte Cyberresilienz nunmehr eine Synergie aus Mitarbeitern, welche Risiken erkennen, Prozesse zum Auffangen von Fehlentscheidungen, aber auch Systeme, die gefährliche Aktionen technisch begrenzen.
Ermutigung der Mitarbeiter, die Echtheit eingehender Nachrichten zu hinterfragen
Daher gerate genau jetzt und hier ein altes Sicherheitsprinzip an seine Grenzen – der Mensch als „letzte Verteidigungslinie“. Natürlich müssten Mitarbeiter Risiken erkennen können. „Das heißt, ,Awareness’ ist unverzichtbar. Aber Unternehmen machen es sich zu einfach und jährliche Pflichttrainings allein reichen nicht aus!“
Eine gute „Awareness“-Kampagne müsse kontinuierlich und konkret sein. Regelmäßige, kleine Schulungseinheiten zu aktuellen Angriffsmethoden oder sonstigen Themen sowie realitätsnahe Szenarien seien wirkungsvoller als „das große Security-Lehrstück, das schnell wieder in Vergessenheit gerät“.
Mindestens genauso wichtig sind demnach – natürlich neben einer guten technischen Absicherung – die organisatorischen Prozesse, die im Ernstfall greifen. So müsse eine ungewöhnliche Zahlungsanweisung unabhängig verifiziert werden können. „Niemand sollte Angst haben, eine Nachricht zu hinterfragen!“
Unternehmenskultur muss Skepsis und Sicherheitsdenken fördern
Schraut stellt hierzu klar: „Auch nicht, wenn sie angeblich aus der Chefetage kommt. Gerade dieser Punkt wird oft unterschätzt. Angreifer nutzen Hierarchien, Zeitdruck und Vertrauen für sich aus. Eine Unternehmenskultur, in der niemand den Vorstand infrage stellen möchte, schafft automatisch eine Angriffsfläche.“
Bei KI-Agenten sei dieser Punkt genauso brisant: Diese seien quasi die neuen Mitarbeiter – „und übernehmen in dieser Rolle die unterschiedlichsten Aufgaben, greifen auf Unternehmensdaten zu und treffen Entscheidungen“.
Schraut veranschaulicht, dass wer einem neuen Kollegen Zugang zu sensiblen Systemen gewährt, dabei in der Regel dessen Zuständigkeiten, Berechtigungen und Freigabegrenzen definiert. Bei dem „digitalen Äquivalent“ müsse es eben genauso sein.
Rechte-Management konsequent auch auf KI-Agenten anwenden
Ein Agent brauche nicht nur einen Auftrag, sondern auch einen klaren Handlungsrahmen: „Welche Daten darf er sehen? Welche Systeme darf er nutzen? Welche Entscheidungen darf er selbst treffen? Und wann muss er einen Menschen einbeziehen?“
All dies sei umso wichtiger, weil Agenten nicht nur Fehler machten, sondern auch manipuliert werden könnten. Dies setze wiederum technische Leitplanken in Form von „Least Privilege“, „Zero Trust“, starker Authentifizierung und kontextabhängigen Zugriffsrechten voraus.
Schrauts Fazit: „Kurzum: Unternehmen brauchen Mitarbeitende, die Risiken erkennen, Prozesse, die Fehlentscheidungen auffangen, sowie Systeme, die gefährliche Aktionen technisch begrenzen!“ Nur aus diesem Zusammenspiel entstehe dann tatsächlich echte Cyberresilienz.
Zentrale Erkenntnisse der DS-Redaktion
- In sarkastischen Kommentaren zu Datensicherheitsfragen wurde das Kürzel „IT“ früher gerne mal als „Interner Täter“ interpretiert – mit dem Fortschritt der KI besteht nun die akute Gefahr, dass es nicht nur länger rein menschliche Fehlbarkeit ist, welche die betriebliche Sicherheit bedroht, sondern zunehmend auch die unerwünschten Eigenschaften von KI-Agenten.
- Ebenso wie ein Mensch einerseits ein wertvoller, an der Wertschöpfung beteiligter Mitarbeiter – andererseits aber auch ein demotivierter, bequemer oder gar aktiv krimineller – sein kann, zeigt KI auch zwei gegensätzliche Seiten – Steigerung der Produktivität vs. „Blindgänger“ bzw. gezielt genutzte Waffe zum Nachteil des Unternehmens.
- Auch noch vor dem KI-Durchbruch im Alltag hätte man Mitarbeiter in Sicherheitsfragen nie alleinlassen dürfen – jetzt im Kontext einer hochdynamischen Entwicklung des KI-Zeitalters erst recht nicht.
- Ob Faktor „Mensch“ oder „Maschine“ (Technologie) – die betriebliche ORGA muss stets einen klaren Handlungsrahmen setzen.
- Da KI-Agenten fehlerhaft sein können, aber auch bewusst manipuliert werden können, sind „Mensch“ und „Management“ durch geeignete technische Leitplanken zu flankieren, welche stets aktuell zu halten sind.
Fazit der DS-Redaktion
Datensicherheit im KI-Zeitalter basiert wesentlich auf der Übernahme von Verantwortung – auf allen betrieblichen Ebenen, also auch zuerst und zuletzt bei der Geschäftsführung. Unabhängig davon, ob ein Unternehmen bereits heute de jure oder de facto unter die NIS2-Richtlinie fällt. Verantwortung kann nicht delegiert werden: Sie ist vom C-Level vollumfänglich zu übernehmen und vorzuleben. Auftrag der Entscheiderebene ist es, eine umfassende betriebliche Sicherheitskultur mit dem Ziel der (Cyber-)Resilienz zu initiieren, zu verankern und vorzuleben. Auf dieser Basis können dann geeignete konkrete Technisch-Organisatorische Maßnahmen (TOM) unter Einbindung interner sowie externer Experten und Dienstleister ausgewählt werden – auch Mitarbeiterschulungen gehören u.a. dazu.
Weitere Informationen
DATENSICHERHEIT.DE, 01.11.2026
KI-Agenten: Drei von zehn deutschen Unternehmen würden sie eigenmächtig handeln lassen
DATENSICHERHEIT.DE, 23.10.2026
Trotz Agentic AI: Cyberangriffe noch überwiegend von Menschen gesteuert
DATENSICHERHEIT.DE, 19.10.2026
Digital-Trust-Debatte um KI-Agenten: ISACA Europe Conference 2026 stellte Kontrolle in den Mittelpunkt
