Die ISACA Europe Conference 2026 zeigte, dass der sichere Einsatz von KI-Agenten klare Verantwortlichkeiten, wirksame Kontrollen und eine verlässliche Governance erfordert. Nur so lassen sich Risiken begrenzen und Potenziale verantwortungsvoll nutzen.
Auf der jüngsten „ISACA Europe Conference“ vom 7. bis 9. Oktober 2026 in München diskutierten nach Angaben der Veranstalter mehr als 50 internationale Sprecher in über 40 „Sessions“ die Themen Governance, Audit, Datenschutz und „Digital Trust“. Im Zentrum vieler Diskussionen stand demnach die Frage, wie Unternehmen autonom handelnde KI-Agenten kontrollieren können – und wer Verantwortung trägt, wenn diese eigenständig Entscheidungen treffen.
Die Keynotes von Henry Ajder, Monica Verma und Sarah Furness hätten u.a. gezeigt, wie eng technologische Innovation, Führung und Kompetenzentwicklung miteinander verknüpft seien. Aus dieser Konferenz heraus werde die zentrale Frage aufgeworfen und zur Diskussion gestellt: „Wie lassen sich die wachsende Autonomie von KI-Agenten und die Anforderungen an Verantwortlichkeit, Governance und notwendige Kompetenzen miteinander in Einklang bringen?“
Eigentliche Herausforderung nicht mehr die KI-Einführung, sondern deren Kontrolle
KI-Systeme geben heute längst nicht mehr nur bloße Empfehlungen ab, sondern handeln als sogenannte Agenten zunehmend eigenständig: Sie können Tickets priorisieren, Prozesse anstoßen oder operative Entscheidungen ohne unmittelbares menschliches Eingreifen treffen.
Welche Risiken und Verantwortlichkeiten damit grundsätzlich verbunden sind, sollte dan auch bewusst im Mittelpunkt der „ISACA Europe Conference 2026“ stehen. „Drei Tage lang diskutierten mehr als 50 internationale Expertinnen und Experten mit rund 500 Teilnehmenden aus über 50 Ländern in mehr als 40 Sessions darüber, wie Unternehmen Aufsicht, Risikomanagement und Resilienz in einem zunehmend komplexen Technologie- und Regulierungsumfeld stärken können.“
Der Zeitpunkt dieser Debatte sei kein Zufall: Mit dem „EU AI Act“, NIS2, DORA und dem „Cyber Resilience Act“ entstehe derzeit europaweit ein regulatorischer Rahmen, um Governance, operative Resilienz und digitales Vertrauen neu zu definieren. Gleichzeitig verändere Künstliche Intelligenz (KI) nahezu jeden Unternehmensbereich. Deutlich geworden sei auf der Konferenz, dass die eigentliche Herausforderung heute nicht mehr darin bestehe, KI einzuführen, sondern ihre Autonomie zu begrenzen und ihre Entscheidungen nachvollziehbar zu machen.
Kontrolle über gesamte KI-Ausführungskette zu gewährleisten
Ben Hanson, Experte für die Sicherheit von KI-Agenten bei Zenity, habe in seinem Vortrag zwischen dem Schutz von Agenten und der Steuerung ihrer Handlungsmöglichkeiten unterschieden. Sein Ansatz: Berechtigungen müssten zeitlich begrenzt, kontextabhängig und auch während der Ausführung widerrufbar sein.
Zudem brauche es Kontrollmechanismen, welche kontinuierlich überprüften, ob einzelne Schritte weiterhin dem ursprünglich definierten Ziel entsprechen. Ebenso wichtig sei die Kontrolle über Dokumente und Wissensquellen, auf deren Basis Agenten Entscheidungen treffen.
Seine zentrale Botschaft: Es reiche nicht aus, einen Agenten stoppen zu können. Werden Aufgaben an weitere Systeme oder Agenten delegiert, müsse die Kontrolle über die gesamte Ausführungskette hinweg gewährleistet sein.
Wirksame Kontrolle mittels bestehender Mechanismen anstelle von zusätzlichen Parallelstrukturen
Auch die „Session“ zur Reife von KI-Governance habe gezeigt, dass sich der Fokus von theoretischen Regelwerken hin zu praktischer Umsetzung verschiebe. Daniel Manimbo, „Head of Artificial Intelligence and ISO“ bei Schellman, und Kevin Schawinski, Mitgründer und CEO von Modulos, hätten dabei drei Governance-Ebenen unterschieden:
Modell, System und Organisation. Im Mittelpunkt ihres Vortrags habe die Systemebene gestanden, also die kontinuierliche Überwachung des Verhaltens von KI-Systemen während des Betriebs, die Begrenzung autonomer Entscheidungen und die klare Zuordnung von Verantwortlichkeiten entlang komplexer Agenten-Ketten.
Ihr Fazit: Standards wie ISO 42001 dürften nicht bei der Dokumentation stehen bleiben, sondern müssten sich in dauerhaft funktionierenden Prozessen widerspiegeln. Idealerweise bauten sie auf bestehenden Kontrollmechanismen auf, anstatt zusätzliche Parallelstrukturen zu schaffen.
Vertrauen in KI gründet sich auf Herkunftsnachweise
In seiner Keynote habe Henry Ajder, Experte für Generative KI und Deepfakes sowie Gründer von Latent Space Advisory, das Thema Vertrauen in den Mittelpunkt gestellt.
Synthetische Inhalte erleichterten nicht nur Täuschungen, sondern stellten zunehmend auch die Authentizität echter Aufnahmen infrage.
Die Reputation einer Organisation allein reiche deshalb nicht mehr aus, um die Glaubwürdigkeit ihrer Kommunikation sicherzustellen. Ajder habe sich für „Content Credentials“ und nachvollziehbare Herkunftsnachweise ausgesprochen, auch wenn diese nicht jedes Misstrauen beseitigen könnten.
Über Technologie hinaus auf Lernkultur setzen: Fehler als wertvolle Lernchancen
Dass Governance weit mehr umfasst als Prozesse und Kontrollmechanismen, habe auch Monica Verma deutlich gemacht. Die Cybersicherheitsexpertin und Gründerin von Monica Talks Cyber habe in ihrer Keynote Cyber-Resilienz mit Führung und Talententwicklung verknüpft. Ihre zentrale Botschaft: Sicherheitsmaßnahmen scheiterten häufig dann, wenn diejenigen Menschen nicht ausreichend einbezogen werden, die diese später umsetzen und leben sollen.
Den Abschluss der Konferenz habe Sarah Furness, Führungsexpertin, ehemalige Staffelkapitänin der Royal Air Force und frühere Kampfhubschrauberpilotin gestaltet. Sie empfahl laut ISACA, Unsicherheit nicht als Hindernis zu verstehen, sondern die darin enthaltenen Informationen bewusst zu nutzen. Entscheidungen ließen sich trainieren, Fehler seien wertvolle Lernchancen und keine Zeichen von Schwäche.
Über technologische Entwicklungen und regulatorische Anforderungen hinaus habe die Konferenz deutlich gemacht, wie wichtig menschliche Expertise, Führungskompetenz und Verantwortungsbewusstsein für den Aufbau von Vertrauen in KI seien.
Zielstellung: KI verantwortungsvoll und wertschöpfend einsetzen
Chris Dimitriadis, „Chief Global Strategy Officer“ von ISACA, stellte in seinem Impuls klar: „Wer Aufgaben an einen KI-Agenten delegiert, delegiert damit nicht automatisch die Verantwortung! Bevor Unternehmen einem Agenten Autonomie einräumen, müssen sie genau wissen, was er tun darf, auf welche Informationen er zugreifen kann und wer eingreifen kann, wenn er von seinem Ziel abweicht.“
Kontrolle müsse die gesamte Ausführungskette begleiten. Rahmenwerke wie das „CMMI AI Maturity Model“ (CMMI AIM) würden Organisationen dabei helfen, ihren Reifegrad im Umgang mit KI zu bewerten, das Risikomanagement zu stärken und Innovation nachhaltig zu fördern.
Abschließend gab er zu bedenken; „Ebenso wichtig sind Fachkräfte mit Kompetenzen in KI-Audit, Cybersicherheit, Risiko- und Governance-Management, damit KI verantwortungsvoll und wertschöpfend eingesetzt werden kann.“
Epilog: Erörterung der Digital-Trust-Agenda bleibt auf der Tagesordnung
Die zentrale Frage dieser Konferenz bleibe damit weit über München hinaus relevant: „Wie lassen sich die wachsende Autonomie von KI-Agenten und die Anforderungen an Verantwortlichkeit, Governance und notwendige Kompetenzen miteinander in Einklang bringen?“
Diese Herausforderung werde die europäische Digital-Trust-Agenda auch künftig prägen, während Unternehmen die Vorgaben des „EU AI Act“, von NIS2 und DORA umsetzen.
Für Unternehmen, welche die Cybersicherheitsrisiken autonomer KI-Systeme besser verstehen und adressieren möchten, soll das ISACA-Whitepaper „Cybersecurity Recommendations for Securing AI Agents“ praxisorientierte Handlungsempfehlungen zur sicheren Steuerung und Überwachung von KI-Agenten liefern.
Zentrale Erkenntnisse der DS-Redaktion
- Die Herausforderungen für die Unternehmen haben sich offenbar verlagert – weg von der Einführung von KI-Agenten und hin zu deren Kontrolle und Einhegung im laufenden Betrieb.
- Die Verantwortung für die Folgen des eigenmächtigen Handelns der KI-Agenten muss unbedingt geklärt werden – es wäre unvertretbar, dass Unternehmen den Nutzen aus deren Einsatz ziehen, sich aber im Schadensfall „wegducken“ könnten.
- Für die breite Akzeptanz der KI-Agenten am Markt und in der Gesellschaft ist ein klares Regelwerk vonnöten und es sollte durch „Best Practices“ Vertrauen aufgebaut werden.
- Ähnlich einer Liefer- und Leistungskette gibt es beim Einsatz von KI-Agenten sogenannte Ausführungsketten – d.h. es muss darüber eine Gesamtverantwortung übernommen werden.
- Die Zunahme der Autonomie von KI-Agenten muss mit Anforderungen an Verantwortlichkeit, Governance und notwendige Kompetenzen ausbalanciert werden.
Fazit der DS-Redaktion
Die ISACA Europe Conference 2026 hat gezeigt, dass der verantwortungsvolle Einsatz von KI-Agenten wirksame Kontrollen, klare Verantwortlichkeiten und nachvollziehbare Entscheidungen erfordert. Nur so können Unternehmen das Potenzial autonomer KI ausschöpfen und nachhaltiges Digital Trust schaffen.
Weitere Informationen
DATENSICHERHEIT.DE, 26.09.2026
KI-Agenten auf Abwegen: OpenAI-Vorfall mit Australiens Medicare-Datenbank
DATENSICHERHEIT.DE, 21.09.2026
Neue KI-Modelle: Forderung des TÜV-Verbands nach unabhängiger Prüfung
DATENSICHERHEIT.DE, 09.09.2026
KI außer Kontrolle: Shadow Agents setzen Führung unter Druck
