Künstliche Intelligenz (KI) prägt zunehmend den betrieblichen Alltag. Der EU AI Act fordert dabei keinen Verzicht auf KI, sondern einen transparenten und bewussten Umgang. Offenheit über den KI-Einsatz schafft Orientierung, Rechtssicherheit und Vertrauen.
Es ist offenkundig, dass Künstliche Intelligenz (KI) zunehmend den betrieblichen Alltag durchdringt, um etwa Texte zu verfassen, Anfragen zu sortieren, Daten zu analysieren – mithin Mitarbeiter in vielfältiger Weise zu unterstützen. Viele Verantwortliche für IT-Sicherheit werden im Kontext dieser Entwicklung mit der Frage konfrontiert: „Was darf die Technik eigentlich noch – und wo beginnt die rechtliche Grauzone?“
Florian Horbach, Geschäftsführer der Zeeg GmbH, führt hierzu in seinem aktuellen Kommentar aus: „Die Antwort fällt weniger dramatisch aus, als manche Schlagzeile vermuten lässt!“ Der europäische „AI Act“ verlangt demnach keinen Verzicht auf KI, sondern setzt lediglich einen bewussten und transparenten Umgang damit voraus. „Wer offenlegt, wo Künstliche Intelligenz zum Einsatz kommt, schafft Orientierung und damit Vertrauen.“
Transparenz bei Chatbots, digitalen Assistenten und automatisierten Kundenservices geboten
Seit dem 2. August 2026 gelten nun zentrale Transparenzpflichten aus Artikel 50 „AI Act“. Unternehmen müssen somit Menschen in bestimmten Fällen darauf hinweisen, wenn sie direkt mit einem KI-System interagieren. Das betrifft beispielsweise Chatbots, digitale Assistenten oder automatisierte Kundenservices wie KI-Telefonie.
Ein solcher Hinweis brauche indes keine juristische Abhandlung: „Ein klarer Satz reicht: ‚Sie sprechen mit einem KI-gestützten Assistenten.‘“, so Horbach. Er rät jedoch: „Anschließend sollte eine einfache Möglichkeit zur persönlichen Unterstützung folgen.“
Diese Offenheit schütze nicht nur vor Missverständnissen, sondern könne auch das Verhältnis zwischen Unternehmen und Kunden verbessern. Wer KI nicht tarnt, sondern verständlich erklärt, signalisiert laut Horbach Verantwortung. Kunden würden somit eine Wahl erhalten und könnten besser einschätzen, welche Antworten sie von einem System erwarten dürfen.
Der „AI Act“ fokussiert auf Risiken – KI-Bestandaufnahme empfohlen
Nicht jede Anwendung verlange denselben Aufwand. Der „AI Act“ unterscheide nach dem möglichen Risiko eines Systems. Horbach führt hierzu aus: „Eine Anwendung, die Texte zusammenfasst oder interne Abläufe erleichtert, bringt andere Anforderungen mit als eine KI, die über Bewerbungen, Kredite oder den Zugang zu wichtigen Leistungen entscheidet.“
Für Unternehmen empfiehlt sich laut Horbach deshalb zunächst eine einfache Bestandsaufnahme:
- Wo kommt KI bereits zum Einsatz?
- Welche Aufgaben übernimmt sie?
- Welche Informationen verarbeitet sie?
- Wer trägt die Verantwortung für die Ergebnisse?
- Wo braucht es weiterhin menschliche Prüfung?
Die Beantwortung dieser Fragen führten schnell aus der abstrakten Gesetzesdebatte in die betriebliche Praxis. Zugleich könnten sie helfen, Zuständigkeiten zu klären. Denn KI nehme Unternehmen die Verantwortung nicht ab – die liefere Vorschläge, bearbeite Informationen oder übernehme Routinen. Die Entscheidung über den Umgang mit den Ergebnissen bleibe indes beim Menschen.
Bei KI-Telefonie sollte Transparenz hörbar sein
Ein möglicher Anwendungsfall liege in der Telefonie. KI-gestützte Assistenten könnten Gespräche annehmen, Standardfragen beantworten oder auch Termine koordinieren. Gerade an dieser Stelle zähle Transparenz besonders: Eine Stimme wirke schnell menschlich, auch wenn im Hintergrund ein System arbeitet. So schaffe bereits ein kurzer Hinweis zu Beginn Klarheit.
„Ebenso wichtig bleibt eine gute Übergabe an Mitarbeitende, sobald das Anliegen komplizierter, persönlicher oder eine individuelle Einschätzung benötigt wird. KI-Telefonie muss deshalb nicht als Ersatz für den Kundenservice auftreten. Sie kann vor allem Routineaufgaben abfangen und Beschäftigte entlasten“, unterstreicht Horbach.
„‚Made in Germany‘ kann dabei ein zusätzlicher Vertrauensanker sein.“ Dieser Begriff allein ersetze jedoch keine Prüfung – Unternehmen sollten genau hinschauen, wo die Daten liegen, wer diese verarbeitet, welche Kontrollmöglichkeiten der Anbieter bietet – und wie sich ein menschlicher Ansprechpartner erreichen lässt.
Erkennbare Kennzeichnung für KI-Inhalte erforderlich
Die neuen Regeln beträfen aber nicht nur Gespräche. Auch bestimmte künstlich erzeugte oder veränderte Bilder, Video- und Audiodateien benötigten eine erkennbare Kennzeichnung. Dies gelte insbesondere dann, wenn Inhalte den Eindruck echter Aufnahmen oder authentischer Aussagen vermitteln.
„Für Unternehmen bedeutet das: Eine interne Arbeitshilfe mit KI-Unterstützung fällt nicht automatisch in dieselbe Kategorie wie ein öffentlich verbreiteter Beitrag“, so Horbach.
Er erläutert: „Entscheidend bleiben Einsatz, Inhalt und Wirkung.“ Wer Informationen für die Öffentlichkeit erstellt, sollte deshalb prüfen, ob ein Hinweis auf die KI-Bearbeitung nötig bleibt.
Der „AI Act“ setzt KI-Leitplanken in einem dynamischen Markt
Der „AI Act“ mache KI keineswegs unbrauchbar – er setze Leitplanken für einen sich rasant entwickelnden Markt. Für Unternehmen entstehe daraus sogar eine Chance: Sie könnten frühzeitig klare Regeln schaffen, Mitarbeiter sensibilisieren und ihren Kunden zeigen, dass Innovation und Verantwortung zusammenpassen.
Dafür brauche es weder komplizierte Kontrollsysteme noch große Versprechen. Oft genügten ein transparenter Hinweis, nachvollziehbare Zuständigkeiten und ein Mensch, der bei Bedarf eingreift. Genau darin liege die vielleicht wichtigste Botschaft des „AI Act“.
Horbach gibt abschließend zu bedenken: „Vertrauen entsteht nicht dadurch, dass Unternehmen KI unsichtbar machen. Es wächst, wenn sie verständlich erklären, wo Technik unterstützt und wo weiterhin der Mensch entscheidet.“
Zentrale Erkenntnisse der DS-Redaktion
- Die Digitale Transformation im Sinne einer umfassenden Digitalisierung und Vernetzung benötigt nicht allein virtuelle Werkzeuge („Tools“) von hoher Qualität, sondern auch eine Stärkung des „Faktors Mensch“ – als kundiger, verantwortungsvoll handelnder Nutzer und Konsument.
- Die Deklaration der Inhaltsstoffe bei Lebensmitteln, Pflegeartikeln etc. blickt auf eine lange Phase der Auseinandersetzung zurück – Transparenz ist eine notwendige, wenn auch noch keine hinreichende Voraussetzung für Vertrauen. Aus dieser Erfahrung der materiellen Welt heraus könnten nun „Best Practices“ für virtuelle Systemkomponenten wie KI-Agenten bzw. -Applikationen abgeleitet werden.
- KI ist für die Bearbeitung von Routineaufgaben offensichtlich besser geeignet als menschliche Sachbearbeiter, insbesondere hinsichtlich der Geschwindigkeit und Konsequenz des Vorgehens. Menschen mit breitem Wissen und Können sollten sich auf schwierige Sonderfälle konzentrieren, in denen die menschliche Komponente das Vertrauen stärkt und das Finden einer einvernehmlichen, zielführenden Lösung unterstützt.
- Dem Menschen sollte die Entscheidung überlassen bleiben, in welchen besonderen Situationen er eher einer KI bzw. einem anderen Menschen Vertrauen schenkt.
- Gerade weil die vielfältigen Möglichkeiten der KI zunehmend von Cyberkriminellen missbraucht werden, sollte ehrbare KI-Anbieter und -Anwender dazu als Gegenkraft auftreten und gemeinsam Standards für Transparenz und Vertrauenswürdigkeit etablieren.
Fazit
Digitale Transformation gelingt nur im Zusammenspiel von leistungsfähiger KI und verantwortungsbewusstem Menschen. Transparenz schafft dabei die Grundlage für Vertrauen – und klare Standards helfen, KI sicher, nachvollziehbar und vertrauenswürdig einzusetzen.
Weitere Informationen
DATENSICHERHEIT.DE, 16.08.2026
EU AI Act: Handlungsdruck auf IT- und Datenverantwortliche im KI-Umfeld bleibt hoch
DATENSICHERHEIT.DE, 05.08.2026
EU AI Act: Aktuelle KI-Vorfälle unterstreichen Notwendigkeit der Regeln
DATENSICHERHEIT.DE, 02.08.2026
AI Act: Ab 2. August 2026 weitere Regeln in Kraft – indes noch viele offene Fragen
