Aktuelles, Branche, Studien - geschrieben von dp am Dienstag, August 19, 2025 16:00 - noch keine Kommentare
KI-Agenten breiten sich aus – aber Governance-Lücken gefährden Vertrauen der Verbraucher
Laut Genesys-Studie wünschen sich vier von fünf Verbrauchern eine klare „Governance“ für KI-Interaktionen – indes verfügt weniger als ein Drittel der Unternehmen über umfassende Richtlinien
[datensicherheit.de, 19.08.2025] Genesys hat die Ergebnisse seiner aktuellen Umfrage veröffentlicht: Diese deckt demnach eine kritische Diskrepanz auf – zwischen der Art und Weise, wie Unternehmen Künstliche Intelligenz (KI) regeln, und den Anforderungen der Verbraucher für eine sichere Nutzung (insbesondere in der Ausprägung als KI-Agenten). Während vier von fünf Befragten eine klare „Governance“ für KI-Interaktionen wünschten, gäben weniger als ein Drittel der Führungskräfte an, „dass ihr Unternehmen über umfassende, unternehmensweite KI-Richtlinien und -Kontrollen verfügt“. Genesys hat nach eigenen Angaben im Juni 2025 in Zusammenarbeit mit einem unabhängigen Forschungsunternehmen 4.000 Verbraucher und 1.600 Entscheidungsträger für „Customer Experience“ (CX) und IT in mehr als zehn Ländern befragt. „Knapp 350 Befragte kamen aus Deutschland – unter den befragten Unternehmen waren folgende Branchen vertreten: Fluggesellschaften, Automobilindustrie, Banken, Behörden, Gesundheitswesen, Versicherungen, Fertigung, Medien und Unterhaltung, professionelle Dienstleistungen, Einzelhandel, Reise und Gastronomiegewerbe, Technologie, Telekommunikation und Versorgungsunternehmen.“

Foto: Genesys
Olivier Jouve stellt klar: Da Agentenbasierte KI immer mehr Verantwortung übernimmt, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben!
Agentenbasierte KI findet in CX-Strategien der Unternehmen immer mehr Verbreitung
Agentenbasierte KI (Agentic AI) – „autonome Systeme, die selbstständig denken, handeln und Entscheidungen treffen können“ – finde in den Strategien für Kundenerlebnisse (CX) von Unternehmen immer mehr Verbreitung. So meinten 91 Prozent der befragten CX-Führungskräfte, „dass ihr Unternehmen damit einen schnelleren, effektiveren und personalisierten Service anbieten können wird“.
- Die Daten zeigten jedoch eine komplexe Realität: Während die Begeisterung für den transformativen Wert Agentenbasierter KI groß sei, „hinken ,Governance’-Strukturen hinterher“. Dies bringe Risiken für das Verbrauchervertrauen, den Ruf der Marke und die Einhaltung gesetzlicher Vorschriften mit sich.
„,Agentic AI’ eröffnet Unternehmen spannende Möglichkeiten, ihre Kunden zu bedienen. Das Vertrauen der Verbraucher zu verdienen, muss jedoch mit diesem Fortschritt Schritt halten“, betont Olivier Jouve, „Chief Product Officer“ bei Genesys. Er erläutert hierzu: „Da diese Systeme immer mehr Verantwortung übernehmen, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben. Sind die richtigen Leitplanken von Anfang an gesetzt, können Unternehmen dauerhaftes Vertrauen aufbauen, indem sie verantwortungsbewusst Kundenerlebnis-Innovationen treiben für ein neues Maß an Personalisierung und Effektivität.“
Hauptanliegen der Befragten: Klarheit darüber, wie KI personenbezogenen Daten verwendet
Mehr als 90 Prozent der befragten CX-Führungskräfte seien sich einig, dass eine starke „Governance“ entscheidend sei, um den Ruf der Marke zu schützen (91%), langfristiges Vertrauen und Loyalität bei den Kunden aufzubauen (91%) und das Wohlbefinden der Verbraucher im Umgang mit autonomen Systemen zu steigern (90%).
- Dennoch seien viele Unternehmen noch nicht vorbereitet: „Über ein Drittel der CX-Führungskräfte (35%) geben zu, dass sie über wenig bis gar keine formellen ,Governance’-Richtlinien verfügen.“ Noch besorgniserregender sei, dass 28 Prozent derjenigen vollkommen ohne Richtlinien dennoch glaubten, dass ihr Unternehmen bereit sei für Agentenbasierte KI.
Diese „Governance“-Lücke werde noch problematischer, „wenn man sie im Zusammenhang mit den Bedenken der Verbraucher betrachtet“. Viele blieben skeptisch, weil ihnen Transparenz bei der Verwendung ihrer Daten und klare Kontrollen fehlten. „Tatsächlich war die Klarheit darüber, wie KI ihre personenbezogenen Daten verwendet, das Hauptanliegen der Befragten.“
KI-„Halluzinationen“ ernsthaftes Risiko für Kundenbindung
Hinzu komme, dass 37 Prozent der Verbraucher glaubten, KI „halluziniere” oder erfinde Informationen – eine Ansicht, die von 59 Prozent der CX-Führungskräfte geteilt werde. Sie meinten, dass „Halluzinationen“ ernsthafte Risiken für die Kundenbindung, Rechtsstreitigkeiten und den Ruf der Marke darstellten.
- Diese wahrgenommene Unzuverlässigkeit untergrabe das Vertrauen weiter und zeige, „wie notwendig Vorkehrungen sind, die Genauigkeit und Verantwortlichkeit bei KI-gesteuerten Kundenerfahrungen gewährleisten“.
Die Lücke zwischen dem, was Führungskräfte für notwendig halten, und dem, was Unternehmen umgesetzt haben, sei besonders besorgniserregend – vor allem angesichts der klaren Forderung der Verbraucher nach Transparenz und Kontrolle. So sei es für Unternehmen von entscheidender Bedeutung, diese Lücke zu schließen – „bevor sie Agentenbasierte KI in großem Umfang einsetzen“.
Vertrauen der Verbraucher in Agentenbasierte KI bleibt fragil
Während 81 Prozent der CX-Führungskräfte Agentenbasierter KI sensible Kundendaten anvertrauten, täten dies nur 36 Prozent der Verbraucher. Diese Diskrepanz sei in Situationen mit höheren Risiken noch ausgeprägter – beispielsweise beim Einsatz Agentenbasierter KI für kritische Kundenfunktionen: „74 Prozent der Unternehmen geben an, dass sie diese Technologie ohne Bedenken für Rechnungsstellung, Finanztransaktionen und Kontosicherheit einsetzen.“
- Verbraucher seien jedoch viel zurückhaltender: Nur 35 Prozent fühlten sich wohl dabei, wenn Agentenbasierte KI Geldtransfers abwickelt, 49 Prozent bei der Lösung von Rechnungsproblemen und 50 Prozent bei der Aktualisierung persönlicher Daten.
Diese Daten zeigten eine wichtige Chance auf: „Mehr als die Hälfte der Verbraucher (58%) gibt an, dass es für sie egal ist, ob ihr Problem von einem Menschen oder einer KI gelöst wird, solange es schnell und vollständig bearbeitet wird.“ Dies weise darauf hin, dass Effizienz und Effektivität im Kundenerlebnis Skepsis überwinden könnten – jedoch nur in Verbindung mit Transparenz und Verantwortlichkeit. „Um die Vertrauenslücke zu schließen und verantwortungsbewusst innovativ zu sein, müssen Unternehmen auf verbraucherorientierte Weise skalieren!“
Weitere Informationen zum Thema:
GENESYS
Einführung in Genesys Cloud Agentic AI
GENESYS
The agentic AI trust gap: Why forward-thinking companies should build guardrails
datensicherheit.de, 24.05.2025
Agenten-KI und die Wechselwirkungen mit der Cybersicherheit / Marco Eggerling stellt eine strategische Betrachtung für Führungskräfte an – Agenten-KI als Wendepunkt der Informationssicherheit
datensicherheit.de, 22.05.2025
7. DSGVO-Jahrestag: KI-Agenten als neue Herausforderung / Wie sensible Daten geschützt werden können, wenn nicht mehr allein Menschen, sondern auch KI-Agenten auf Informationen zugreifen, reflektiert Steve Bradford in seinem Kommentar
Aktuelles, Experten, Produkte - Aug. 19, 2025 15:41 - noch keine Kommentare
Abkehr von Technik-Zentrierung: Digitale Transformation beginnt mit Menschen
weitere Beiträge in Experten
- Gefragte BfDI-Informationsbroschüre wurde aktualisiert
- Gemischt: eco-Kommentar zur 100-Tage-Bilanz der neuen Bundesregierung
- Humanoide Roboter: Ergänzung und Erweiterung bestehender Technologien statt deren Ersatz
- Abu Dhabi equips „The Games of the Future 2025“ with a range of phygital disciplines
- „The Games of the Future 2025″: Abu Dhabi rüstet Spiele der Zukunft 2025 mit einer Reihe Phygital-Disziplinen aus
Aktuelles, Branche, Produkte - Aug. 19, 2025 16:11 - noch keine Kommentare
Mit Agentischer KI als Schlüsseltechnologie werden neue Sicherheits- und Infrastrukturkonzepte unverzichtbar
weitere Beiträge in Branche
- KI-Agenten breiten sich aus – aber Governance-Lücken gefährden Vertrauen der Verbraucher
- Cyberangriffe auf Industrieanlagen: Schäden in Milliardenhöhe drohen
- Deepfakes 2025: Zuvor KI-Spielerei und heute bedrohliches Hacker-Tool
- KI-Einsatz: Studie offenbart dringenden Handlungsbedarf für Schulungen und Richtlinien
- Mehr digitale Souveränität und Resilienz – Cybersicherheit neu gedacht
Aktuelles, Branche, Umfragen - Juli 9, 2025 19:03 - noch keine Kommentare
DigiCert-Umfrage: Manuelle Zertifikatsprozesse führen zu Ausfällen, Compliance-Fehlern und hohen Verlusten im Unternehmen
weitere Beiträge in Service
- Threat Hunting: Bedeutung und Wertschätzung steigt
- Umfrage: 71 Prozent der IT-Entscheidungsträger besorgt über Mehrfachnutzung von Passwörtern
- Fast die Hälfte der Unternehmen ohne geeignete Sicherheitsrichtlinien für Remote-Arbeit
- Umfrage: Bedeutung der Konsolidierung von IT-Sicherheitslösungen
- TeleTrusT-Umfrage: „IT-Sicherheit im Home Office“
Kommentieren