Mit der rasanten Entwicklung von KI müssen Vertrauen, Governance und Verantwortlichkeit Schritt halten. Gerade autonome Agenten erfordern klare Grenzen und wirksame Kontrollen, wobei die Verantwortung für ihren Einsatz beim Unternehmen bleibt. So wird Vertrauen zur Voraussetzung für eine nachhaltige Skalierung von KI.
Führende Anbieter Künstlicher Intelligenz (KI), darunter Unternehmen wie etwa Anthropic und OpenAI, haben unlängst die Debatte darüber verschärft, wie schnell KI weiterentwickelt werden sollte. Die Forderungen reichen demnach von verbindlicheren Sicherheitsstandards und unabhängigen Prüfungen bis sogar zu einer Verlangsamung des Entwicklungstempos.
Im Mittelpunkt steht offensichtlich die Sorge, dass immer leistungsfähigere und autonomer agierende KI-Systeme die bestehenden Kontrollmechanismen überholen könnten. Für Unternehmen, welche bereits KI einsetzen, stellt sich jedoch eine weitere und unmittelbarere Frage: „Wie können Vertrauen, Governance und Verantwortlichkeit mit den Fähigkeiten der Technologie Schritt halten?“
Chris Young, Präsident und CEO von Vertex, führt in seiner aktuellen Stellungnahme aus, warum Unternehmen die Verantwortung für den Einsatz autonom handelnder KI-Systeme nicht an Technologieanbieter auslagern können und welche Lehren sich aus der Einführung von Cloud-Technologien ziehen lassen.
Notwendiges Vertrauen muss mit technologischen Fähigkeiten wachsen
„Die Debatte über das Tempo der KI-Entwicklung ist wichtig, weil die Fähigkeiten heutiger Modelle bestimmen werden, wie KI künftig in Wirtschaft und Gesellschaft eingesetzt wird“, so Young. Geschwindigkeit und Leistungsfähigkeit seien jedoch nur ein Teil der Gleichung: Vertrauen, Verantwortlichkeit und Governance müssten sich parallel zur Technologie weiterentwickeln.
Er blickt zurück: „Wir haben eine vergleichbare Entwicklung bereits bei der Einführung der Cloud erlebt. Mit zunehmender Verbreitung entwickelten Anbieter und Unternehmen gemeinsame Modelle für Sicherheit, Governance und Verantwortlichkeit. Das notwendige Vertrauen musste mit den technologischen Fähigkeiten wachsen – und genau das ist geschehen.“
Agentenbasierte KI trete nun in eine ähnliche Phase ein. Der entscheidende Unterschied laut Young: „KI-Agenten geben nicht nur Empfehlungen, sondern können innerhalb festgelegter Befugnisse selbstständig handeln.“
Entscheidungen eines KI-Systems müssen noch später nachvollzogen, erklärt und vertreten werden können
Die dafür erforderlichen Vertrauensstrukturen könnten nicht allein in der Verantwortung der Modellentwickler liegen. Unternehmen müssten selbst klare Grenzen definieren – mithin festlegen, bei welchen Entscheidungen menschliches Urteilsvermögen unverzichtbar bleibt, das tatsächliche Verhalten der eingesetzten Agenten überwachen und eindeutige Möglichkeiten schaffen, in automatisierte Abläufe einzugreifen.
Menschen würden nicht jede einzelne Aktion eines KI-Agenten vorab genehmigen können. „Das entbindet Unternehmen jedoch nicht von ihrer Verantwortung für die eingesetzten Systeme, die übertragenen Befugnisse und die daraus entstehenden Ergebnisse!“, unterstreicht Young.
Besonders deutlich werde diese Verantwortung in regulierten und geschäftskritischen Bereichen wie Steuern und Compliance. Abschließend gibt Young zu bedenken: „Eine Entscheidung, die ein System heute trifft, muss möglicherweise noch Jahre später nachvollzogen, erklärt und gegenüber Behörden vertreten werden können. Technologische Durchbrüche werden die KI-Entwicklung weiter vorantreiben. Vertrauen wird letztlich darüber entscheiden, wie umfassend diese Fortschritte tatsächlich genutzt werden.“
Zentrale Erkenntnisse der DS-Redaktion
- Die rasante KI-Entwicklung beschert den Unternehmen und Institutionen eine Vielfalt an neuen Handlungsoptionen, bringt aber auch immer neue Herausforderungen – gar Gefahren – mit sich.
- Der notwendige Ordnungsrahmen für neuartige Technologie muss die unzweifelhafte Übernahme der Verantwortung und Haftung klar definieren.
- KI ist ein immaterielles Werkzeug, dessen Schadenspotenzial aber durchaus in die physische Welt wirken kann – wer ein materielles oder virtuelles Werkzeug nutzt, steht in jedem Fall in der moralischen und oft auch juristischen Verantwortung für die Folgen des Einsatzes.
- KI als „Tool“ darf nur – wie in der analogen Welt die materiellen Werkzeuge – in kundige Hände gegeben werden, welche über Gefahren aufgeklärt wurden und zur verantwortungsvollen Nutzung befähigt sind.
- Über den Erfolg der KI entscheidet nicht allein technologische Performanz, sondern vor allem das Vertrauen der Anwender, aber auch der Gesellschaft, – wofür die Übernahme der Verantwortung ein zentrales Kriterium ist.
Fazit der DS-Redaktion
Für eine erfolgreiche und verantwortungsvolle Nutzung von KI müssen Anbieter, Gesetzgeber und Anwender international zusammenwirken. Sicherheit, Governance und Verantwortlichkeit sollten dabei von Anfang an „by design“ und „by default“ verankert werden – damit Chancen genutzt und Risiken frühzeitig begrenzt werden können.
Weitere Informationen
DATENSICHERHEIT.DE, 24.09.2026
KI im Krisenmodus: Wie aus Fehleinschätzungen Kriege werden können
DATENSICHERHEIT.DE, 21.09.2026
Neue KI-Modelle: Forderung des TÜV-Verbands nach unabhängiger Prüfung
DATENSICHERHEIT.DE, 14.09.2026
Cyber-physische KI-Systeme: Verein Deutscher Ingenieure gründet neuen Sicherheits-Fachausschuss
