[datensicherheit.de, 08.11.2025] KI-Agenten gewinnen offensichtlich immer mehr an Bedeutung: Unternehmen vertrauten diesen immer sensiblere Aufgaben an, von Genehmigungen von Investitionen bis zum Managen von Sicherheitsrisiken – ihr Potenzial, Unternehmen zu transformieren, sei enorm. Doch darin steckt nach Ansicht von Markus Müller, „Global Field CTO API Management“ bei Boomi auch eine Gefahr, stelle doch eine unkontrollierte Autonomie von KI-Agenten für jedes Unternehmen ein erhebliches Risiko dar. Er erörtert in seiner aktuellen Stellungnahme die Frage „Wer kontrolliert also diese KI-Agenten eigentlich?“. Für diese neue Art digitaler Mitarbeiter eine sei eine neue „Governance“ unerlässlich.

Foto: Boomi

Laut Markus Müller ist eine universelle „Governance“ von KI-Agenten für Datensicherheit und zur Verbesserung der Unternehmensleistung zwingend

KI-Agenten als größte Veränderung für Unternehmen in den letzten fünf Jahren

„KI-Agenten sind zweifellos auf dem Vormarsch. Ihr Potenzial, Unternehmen zu transformieren, ist enorm. Davon sind Experten weltweit überzeugt.“, berichtet Müller.

• In einer repräsentativen Studie habe Boomi 300 Führungskräfte aus Wirtschaft und Technologie befragt – „darunter auch welche aus Deutschland“. Fast drei Viertel (73%) glaubten, dass KI-Agenten die größte Veränderung für ihr Unternehmen in den letzten fünf Jahren darstellen würden.

Doch diese Studie zeige auch: Nur zwei Prozent der derzeit eingesetzten KI-Agenten seien vollständig für ihre Handlungen verantwortlich und unterlägen einer kontinuierlichen, konsistenten „Governance“.

98 Prozent der Unternehmen ohne ausreichende ,Governance’-Regeln für KI-Agenten

Müller kommentiert: „Was im Umkehrschluss bedeutet, dass 98 Prozent keine oder zumindest keine ausreichenden ,Governance’-Regeln besitzen! Und genau hier liegt die Gefahr für Unternehmen, denn ohne Kontrolle kann die Leistungsfähigkeit von KI-Agenten nicht richtig kanalisiert werden.“

• War noch bis vor Kurzem die Meinung vorherrschend, dass kritische Unternehmensbereiche wie das Managen von Sicherheitsrisiken oder die Genehmigung von Investitionen und Budgets allein menschliche Expertise benötigten, so habe sich das mit der raschen Weiterentwicklung von KI-Agenten gewandelt. Führungskräfte seien nun in immer größerem Maße bereit, auch diese Bereiche einem KI-Agenten zumindest teilweise anzuvertrauen.

„Welch enorme Verantwortung damit auf dieser Technologie liegt, ist ersichtlich“, so Müller. Führungskräfte und IT-Teams seien nicht mehr über alle Arten der Nutzung sensibler Daten durch die Technologie informiert – und dies könne zu potenziellen Verstößen gegen Sicherheits- oder „Compliance“-Vorschriften führen. Für jedes Unternehmen sei die unkontrollierte Autonomie von KI-Agenten ein „inakzeptables Risiko“.

Background-Check: KI-Agenten im Kontext der Sicherheit ebenso wie menschliche Mitarbeiter zu behandeln

Doch die aktuellen Standards für die „Governance“ von KI-Agenten seien unzureichend. Oft würden bereits die Mindestanforderungen an eine „Governance“-Strategie für KI-Agenten nicht erfüllt. So verfüge weniger als ein Drittel über ein „Governance“-Framework für KI-Agenten, und nur 29 Prozent böten regelmäßige Schulungen für Mitarbeiter und Führungskräfte zum verantwortungsvollen Umgang mit KI-Agenten an.

• Müller führt aus: „Und wenn es um spezifische Prozesse wie Protokolle zur Bewertung von ,Bias’ oder die Planung von Maßnahmen bei Ausfällen von KI-Agenten geht, sind noch weniger Unternehmen vorbereitet (jeweils nur rund ein Viertel).“

Unternehmen müssten daher damit beginnen, ihre „digitale Mitarbeiter“, also die KI-Agenten, im Kontext der Sicherheit ebenso wie menschliche Mitarbeiter zu behandeln. „Bei diesen ist es gang und gäbe, ihre Fähigkeiten und ihre Vergangenheit auf ethische Verstöße hin zu überprüfen.“ KI-Agenten müssten somit nach denselben Standards behandelt werden und beispielsweise dahingehend überprüft werden, ob sie eine Vorgeschichte mit Voreingenommenheit oder Halluzinationen hätten.

Universelle „Governance“ für KI-Agenten unerlässlich

Die universelle „Governance“ von KI-Agenten sei nicht nur ein „nettes Extra“. Sie sei für die Datensicherheit und die Verbesserung der Unternehmensleistung unerlässlich.

• Unternehmen mit einer fortschrittlichen „Governance“ schnitten in einer Vielzahl wichtiger Geschäftskennzahlen besser ab als Unternehmen, welche nur über ein grundlegendes Niveau verfügten.

Zudem sicherten sie sich vor „Compliance“-Verstößen, Reputationsschäden und letztlich auch vor einem durch nicht geprüfte KI-Agenten ausgelösten Sicherheitsvorfall mit erheblichem finanziellen Schaden. „Denn im aktuellen Wettbewerbsumfeld kann selbst ein kleiner Vorsprung den Unterschied zwischen Führungsposition und Rückstand ausmachen!“, gibt Müller abschließend zu bedenken.

Weitere Informationen zum Thema:

boomi
Nahtlose Integration für das moderne Unternehmen / Boomi hilft Organisationen, die Komplexität von Unternehmenssoftware radikal zu vereinfachen

Linkedin
Markus Müller

CLOUDCOMPUTING INSIDER, Barbara Gribl, 27.08.2025
Schnittstellen, Daten und Automatisierung im Fokus / Mehr Tempo, mehr Umsatz: Was Boomi mit AI Agents erreichen will

datensicherheit.de, 19.08.2025
Mit Agentischer KI als Schlüsseltechnologie werden neue Sicherheits- und Infrastrukturkonzepte unverzichtbar / Von automatisierten Geschäftsprozessen über smarte Datenanalyse bis hin zu intelligenten „Cloud’“-Diensten halten autonome, miteinander kommunizierende KI-Agenten überall Einzug

datensicherheit.de, 19.08.2025
KI-Agenten breiten sich aus – aber Governance-Lücken gefährden Vertrauen der Verbraucher / Laut Genesys-Studie wünschen sich vier von fünf Verbrauchern eine klare „Governance“ für KI-Interaktionen – indes verfügt weniger als ein Drittel der Unternehmen über umfassende Richtlinien

datensicherheit.de, 24.05.2025
Agenten-KI und die Wechselwirkungen mit der Cybersicherheit / Marco Eggerling stellt eine strategische Betrachtung für Führungskräfte an – Agenten-KI als Wendepunkt der Informationssicherheit

datensicherheit.de, 22.05.2025
7. DSGVO-Jahrestag: KI-Agenten als neue Herausforderung / Wie sensible Daten geschützt werden können, wenn nicht mehr allein Menschen, sondern auch KI-Agenten auf Informationen zugreifen, reflektiert Steve Bradford in seinem Kommentar