[datensicherheit.de, 19.08.2025] Genesys hat die Ergebnisse seiner aktuellen Umfrage veröffentlicht: Diese deckt demnach eine kritische Diskrepanz auf – zwischen der Art und Weise, wie Unternehmen Künstliche Intelligenz (KI) regeln, und den Anforderungen der Verbraucher für eine sichere Nutzung (insbesondere in der Ausprägung als KI-Agenten). Während vier von fünf Befragten eine klare „Governance“ für KI-Interaktionen wünschten, gäben weniger als ein Drittel der Führungskräfte an, „dass ihr Unternehmen über umfassende, unternehmensweite KI-Richtlinien und -Kontrollen verfügt“. Genesys hat nach eigenen Angaben im Juni 2025 in Zusammenarbeit mit einem unabhängigen Forschungsunternehmen 4.000 Verbraucher und 1.600 Entscheidungsträger für „Customer Experience“ (CX) und IT in mehr als zehn Ländern befragt. „Knapp 350 Befragte kamen aus Deutschland – unter den befragten Unternehmen waren folgende Branchen vertreten: Fluggesellschaften, Automobilindustrie, Banken, Behörden, Gesundheitswesen, Versicherungen, Fertigung, Medien und Unterhaltung, professionelle Dienstleistungen, Einzelhandel, Reise und Gastronomiegewerbe, Technologie, Telekommunikation und Versorgungsunternehmen.“

Foto: Genesys

Olivier Jouve stellt klar: Da Agentenbasierte KI immer mehr Verantwortung übernimmt, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben!

Agentenbasierte KI findet in CX-Strategien der Unternehmen immer mehr Verbreitung

Agentenbasierte KI (Agentic AI) – „autonome Systeme, die selbstständig denken, handeln und Entscheidungen treffen können“ – finde in den Strategien für Kundenerlebnisse (CX) von Unternehmen immer mehr Verbreitung. So meinten 91 Prozent der befragten CX-Führungskräfte, „dass ihr Unternehmen damit einen schnelleren, effektiveren und personalisierten Service anbieten können wird“.

• Die Daten zeigten jedoch eine komplexe Realität: Während die Begeisterung für den transformativen Wert Agentenbasierter KI groß sei, „hinken ,Governance’-Strukturen hinterher“. Dies bringe Risiken für das Verbrauchervertrauen, den Ruf der Marke und die Einhaltung gesetzlicher Vorschriften mit sich.

„,Agentic AI’ eröffnet Unternehmen spannende Möglichkeiten, ihre Kunden zu bedienen. Das Vertrauen der Verbraucher zu verdienen, muss jedoch mit diesem Fortschritt Schritt halten“, betont Olivier Jouve, „Chief Product Officer“ bei Genesys. Er erläutert hierzu: „Da diese Systeme immer mehr Verantwortung übernehmen, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben. Sind die richtigen Leitplanken von Anfang an gesetzt, können Unternehmen dauerhaftes Vertrauen aufbauen, indem sie verantwortungsbewusst Kundenerlebnis-Innovationen treiben für ein neues Maß an Personalisierung und Effektivität.“

Hauptanliegen der Befragten: Klarheit darüber, wie KI personenbezogenen Daten verwendet

Mehr als 90 Prozent der befragten CX-Führungskräfte seien sich einig, dass eine starke „Governance“ entscheidend sei, um den Ruf der Marke zu schützen (91%), langfristiges Vertrauen und Loyalität bei den Kunden aufzubauen (91%) und das Wohlbefinden der Verbraucher im Umgang mit autonomen Systemen zu steigern (90%).

• Dennoch seien viele Unternehmen noch nicht vorbereitet: „Über ein Drittel der CX-Führungskräfte (35%) geben zu, dass sie über wenig bis gar keine formellen ,Governance’-Richtlinien verfügen.“ Noch besorgniserregender sei, dass 28 Prozent derjenigen vollkommen ohne Richtlinien dennoch glaubten, dass ihr Unternehmen bereit sei für Agentenbasierte KI.

Diese „Governance“-Lücke werde noch problematischer, „wenn man sie im Zusammenhang mit den Bedenken der Verbraucher betrachtet“. Viele blieben skeptisch, weil ihnen Transparenz bei der Verwendung ihrer Daten und klare Kontrollen fehlten. „Tatsächlich war die Klarheit darüber, wie KI ihre personenbezogenen Daten verwendet, das Hauptanliegen der Befragten.“

KI-„Halluzinationen“ ernsthaftes Risiko für Kundenbindung

Hinzu komme, dass 37 Prozent der Verbraucher glaubten, KI „halluziniere” oder erfinde Informationen – eine Ansicht, die von 59 Prozent der CX-Führungskräfte geteilt werde. Sie meinten, dass „Halluzinationen“ ernsthafte Risiken für die Kundenbindung, Rechtsstreitigkeiten und den Ruf der Marke darstellten.

• Diese wahrgenommene Unzuverlässigkeit untergrabe das Vertrauen weiter und zeige, „wie notwendig Vorkehrungen sind, die Genauigkeit und Verantwortlichkeit bei KI-gesteuerten Kundenerfahrungen gewährleisten“.

Die Lücke zwischen dem, was Führungskräfte für notwendig halten, und dem, was Unternehmen umgesetzt haben, sei besonders besorgniserregend – vor allem angesichts der klaren Forderung der Verbraucher nach Transparenz und Kontrolle. So sei es für Unternehmen von entscheidender Bedeutung, diese Lücke zu schließen – „bevor sie Agentenbasierte KI in großem Umfang einsetzen“.

Vertrauen der Verbraucher in Agentenbasierte KI bleibt fragil

Während 81 Prozent der CX-Führungskräfte Agentenbasierter KI sensible Kundendaten anvertrauten, täten dies nur 36 Prozent der Verbraucher. Diese Diskrepanz sei in Situationen mit höheren Risiken noch ausgeprägter – beispielsweise beim Einsatz Agentenbasierter KI für kritische Kundenfunktionen: „74 Prozent der Unternehmen geben an, dass sie diese Technologie ohne Bedenken für Rechnungsstellung, Finanztransaktionen und Kontosicherheit einsetzen.“

• Verbraucher seien jedoch viel zurückhaltender: Nur 35 Prozent fühlten sich wohl dabei, wenn Agentenbasierte KI Geldtransfers abwickelt, 49 Prozent bei der Lösung von Rechnungsproblemen und 50 Prozent bei der Aktualisierung persönlicher Daten.

Diese Daten zeigten eine wichtige Chance auf: „Mehr als die Hälfte der Verbraucher (58%) gibt an, dass es für sie egal ist, ob ihr Problem von einem Menschen oder einer KI gelöst wird, solange es schnell und vollständig bearbeitet wird.“ Dies weise darauf hin, dass Effizienz und Effektivität im Kundenerlebnis Skepsis überwinden könnten – jedoch nur in Verbindung mit Transparenz und Verantwortlichkeit. „Um die Vertrauenslücke zu schließen und verantwortungsbewusst innovativ zu sein, müssen Unternehmen auf verbraucherorientierte Weise skalieren!“

Weitere Informationen zum Thema:

GENESYS
Einführung in Genesys Cloud Agentic AI

GENESYS
The agentic AI trust gap: Why forward-thinking companies should build guardrails

GENESYS
Olivier Jouve – Chief Product Officer / “Only the cloud offers the flexibility, scalability and computing power to analyze in real time the vast data resulting from customer interactions today across every channel.”

datensicherheit.de, 19.08.2025
Mit Agentische KI als Schlüsseltechnologie werden neue Sicherheits- und Infrastrukturkonzepte unverzichtbar / Von automatisierten Geschäftsprozessen über smarte Datenanalyse bis hin zu intelligenten „Cloud’“-Diensten halten autonome, miteinander kommunizierende KI-Agenten überall Einzug

datensicherheit.de, 24.05.2025
Agenten-KI und die Wechselwirkungen mit der Cybersicherheit / Marco Eggerling stellt eine strategische Betrachtung für Führungskräfte an – Agenten-KI als Wendepunkt der Informationssicherheit

datensicherheit.de, 22.05.2025
7. DSGVO-Jahrestag: KI-Agenten als neue Herausforderung / Wie sensible Daten geschützt werden können, wenn nicht mehr allein Menschen, sondern auch KI-Agenten auf Informationen zugreifen, reflektiert Steve Bradford in seinem Kommentar

[datensicherheit.de, 26.07.2020] Immer wieder erfährt die Öffentlichkeit von Sicherheitslücken, die zu einer unerlaubten Weitergabe von persönlichen Kundendaten und ihrer widerrechtlichen Nutzung geführt haben. Das wenig transparente Kommunizieren über Datenschutzverstöße sowie unklare Angaben – wie, wann und an wen Unternehmen Nutzerdaten weitergeben wurden – sensibilisiert zunehmend deutsche Verbraucher: Sie möchten wissen, wer ihre Daten nutzt – und zu welchem Zweck. An diesem Punkt hat nun nach eigenen Angaben eine Umfrage von Genesys angesetzt. Heinrich Welter, „Vice President EMEA Central“ und „General Manager DACH“ bei Genesys, geht in seiner aktuellen Stellungnahme auf die Frage ein, welche Branchen aus Sicht der Verbraucher vertrauensvoll mit ihren Daten umgehen – und welche eben nicht. Welter erläutert zudem, wie Unternehmen Vertrauen zu ihren Kunden aufbauen können. Zudem möchte er aufzeigen, was Konsumenten erwarten, wenn sie von einer Datenpanne betroffen sind.

Foto: Genesys

Heinrich Welter: Fehler bei der Nutzung und Verarbeiten von Kundendaten kann sich kein Unternehmen erlauben, egal in welchem Geschäftsfeld!

Vertrauen: Umfrage, welche Branchen im Umgang mit Kundendaten überzeugen

In „Big Data“ stecke die Chance zum „Big Business“. Erreicht werde dies über das Personalisieren von Produkten und Services. Das wüssten Unternehmen und Aufsichtsbehörden, aber auch die Verbraucher:
„Laut einer Online-Umfrage von Genesys wollen zwei Drittel (67 Prozent) von ihnen zustimmen, bevor Unternehmen ihre Daten an Dritte weitergeben, die ihnen daraufhin individualisierte Angebote unterbreiten können.“
Dies lasse sich als Auftrag der 800 deutschen Erwachsenen, die im Frühjahr 2020 vom Marktforschungsinstitut Wakefield Research befragt worden seien, an datenverarbeitende Unternehmen verstehen.

Gefährlicher Datenmissbrauch beschädigt Vertrauen

Ein Blick auf die aktuelle Berichterstattung bestätigt laut Welter, dass die deutschen Verbraucher wissen wollten, was mit ihren Daten geschieht. So hätten Krankenkassenmitglieder in Baden-Württemberg erfahren, dass ihre zwischen 2015 und 2019 für Gewinnspiele erhobenen Daten für widerrechtliche Werbezwecke verwendet worden seien.
„Ein klarer Verstoß gegen die DSGVO, weshalb ein Bußgeld über 1,24 Millionen Euro verhängt wurde. Ebenfalls in der letzten Juni-Woche stoppte der Bundesgerichthof die Vorgehensweise von facebook, über das eigene Soziale Netzwerk und andere Plattformen Daten zu sammeln.“ Denn dafür müsse ein Nutzer aktiv zustimmen, so die Richter in ihrer Begründung.
Die Krankenkasse und der Social-Media-Konzern riskierten viel, denn fast die Hälfte der Umfrageteilnehmer (49 Prozent) habe angegeben, dass sie einem Unternehmen nicht mehr trauen könnten, welches ihre persönlichen Daten missbraucht habe.

Krankenkassen genießen bei Deutschen das meiste Vertrauen

„Das größte Vertrauen der Konsumenten genießen in Deutschland die Krankenkassen (47 Prozent), knapp gefolgt von Banken und Finanzdienstleistern (45 Prozent).“ Medizindienstleister (26 Prozent) und die öffentliche Verwaltung (25 Prozent) könnten sich darauf stützen, dass ihnen ein Viertel der Verbraucher vertraue.
Beim Thema Misstrauen seien die Deutschen besonders gegenüber Social-Media-Unternehmen (41 Prozent), Anbietern von Krypto-Währungen (29 Prozent), Smart-Home-Technologie-Unternehmen (29 Prozent) und Online-Händlern (20 Prozent) skeptisch.
Demzufolge hätten besonders die Unternehmen mit der Vertrauensfrage zu kämpfen, „die auf ein rein datenbasiertes Geschäftsmodell setzen“. Stünden Verbraucher vor der Wahl, würden sich 44 Prozent von ihnen bei Interaktionen mit Anbietern für den sicheren Datenumgang anstatt für Geld- (37 Prozent) oder Zeitvorteile (19 Prozent) entscheiden.

Vertrauen schaffen durch angemessene Reaktionen

Welter: „Da die Verbraucher von heute bei der Verwendung ihrer Daten vorsichtig sind, müssen Unternehmen sicherstellen, dass sie die Zustimmung der Kunden zur Verwendung ihrer Daten einholen und diese dann sorgfältig, sicher und regelkonform verarbeiten.“
Dies gelte bei vernetzten Geräten und IoT-Anwendungen, aber auch für Dienstleistungen und im Kundenservice. Persönliche Angaben wie E-Mail-Adresse, Kreditkarten- oder Krankenversicherungsnummer dürften sie laut DSGVO nur anonymisiert weiterverarbeiten. Zudem empfehle das Regelwerk, persönliche Daten generell zu verschlüsseln.
Falls trotz aller Sicherheitsvorkehrungen eine Sicherheitslücke auftritt, durch die Daten unrechtmäßig an Dritte gelangen oder sie zweckentfremdet verarbeitet werden, erwarteten die Nutzer eine Reaktion des Unternehmens: Fast der Hälfte (45 Prozent) reiche eine Entschuldigung, wohingegen 40 Prozent der Konsumenten auf eine finanzielle Entschädigung pochten.

Vertrauen nach Datenschutz-Verletzung zurückgewinnen

Differenzierter werde das Bild, wie ein Unternehmen nach einem Datenschutzverstoß das Vertrauen zurückgewinnen kann: Ein Fünftel (20 Prozent) der befragten Nutzer rege eine Informationskampagne an, „in der die neuen Sicherheitsmaßnamen erklärt werden, die künftige Sicherheitsvorfälle verhindern soll“.
Ungefähr ebenso viele Verbraucher (19 Prozent) sähen eine betroffene Firma in einer Bewährungsfrist. Das Unternehmen müsse nach ihrer Ansicht mindestens ein Jahr ohne Datenschutzprobleme überstehen.
Weniger Konsumenten (12 Prozent) rieten dazu, auf Rabatte als Wiedergutmachung zu setzen. Andere betrachteten einen Führungswechsel (zehn Prozent) als geeignet, Vertrauen wiederaufzubauen. Nur neun Prozent der Nutzer ließen sich bei der Wiederherstellung des Vertrauens von positiven Berichten aus den Medien und von Freunden beeinflussen.

Vertrauen: Ein kostbares, zu pflegendes Gut

„Deutsche Verbraucher wissen, dass Unternehmen und Organisation ihre Daten im Geschäftsalltag nutzen. Fehler bei der Nutzung und Verarbeiten von Kundendaten kann sich jedoch kein Unternehmen erlauben, egal in welchem Geschäftsfeld“, betont Welter.
Denn annähernd ein Drittel der Nutzer (30 Prozent) würden dem Unternehmen, das eine Datenpanne einräumen muss, nicht mehr vertrauen.
Im Übererfüllen von Datenschutzvorgaben sowie im Transparentmachen der Datennutzung liege daher die Chance, das Vertrauen bei den Nutzern zu stärken, sich klar zu positionieren und von der Konkurrenz abzuheben.

Weitere Informationen zum Thema:

datensicherheit.de, 11.09.2018
Datensicherheit hat Auswirkung auf das Vertrauen in Online-Dienste / Was ist eigentlich ein „Hack“? Gibt es einen Unterschied zwischen einem Hacking-Angriff und einer Datenschutzverletzung?