Der TÜV-Verband fordert verpflichtende unabhängige Sicherheitsprüfungen für besonders leistungsfähige KI-Modelle vor ihrer Markteinführung und eine stärkere EU-Marktüberwachung. Unternehmen müssen sich damit auf steigende Anforderungen an Sicherheitsnachweise, Modell-Evaluation und Compliance einstellen. Zugleich warnt der Verband vor einer weiteren Fragmentierung des EU AI Act und plädiert für einheitliche Regeln und Prüfverfahren.
Der TÜV-Verband e.V. betont in seiner aktuellen Stellungnahme die Notwendigkeit, die Sicherheit leistungsstarker KI-Modelle vor der Markteinführung von unabhängigen Stellen prüfen zu lassen. Internationale Abkommen sollten in verbindliche Sicherheitsvorgaben münden. Er fordert in diesem Zusammenhang, Marktüberwachung in der EU zu stärken, Ressourcen für das „AI Office“ in Brüssel und das „AI Safety and Security Institute“ in Berlin bereitzustellen. Der „EU AI Act“ dürfe nicht weiter ausgehöhlt werden.
Vor Markteinführung verpflichtendes Prüfregime
Der TÜV-Verband fordert nach eigenen Angaben „verpflichtende Prüfungen für besonders leistungsstarke KI-Modelle (,Frontier Models’)“ – bevor diese auf den Markt kommen dürfen. Die Prüfungen könnten von Behörden oder von unabhängigen Prüforganisationen in öffentlichem Auftrag durchgeführt werden.
„Die Sicherheitsvorfälle der letzten Zeit haben gezeigt, welche Gefahren von neuen KI-Modellen ausgehen“, kommentiert Dr. Dirk Stenkamp, Präsident des TÜV-Verbands. Er führt weiter aus: „Wir brauchen vor der Markteinführung ein verpflichtendes Prüfregime für besonders leistungsstarke KI-Modelle.“
In den vergangenen Monaten hätten sich Vorfälle gehäuft, bei denen sich KI-Agenten selbständig in Online-Plattformen gehackt hätten oder unkontrolliert aus ihren Testumgebungen ausgebrochen seien.
Bereits vorhandenen Instrumente der EU-Marktaufsicht stärken
„Im Idealfall verständigt sich die Weltgemeinschaft auf ein gemeinsames Vorgehen, wie sie die Risiken neuer KI-Modelle beherrschen will“, so Stenkamp. Notwendig seien internationale Absprachen, die in verbindliche Vorgaben überführt werden. Er unterstreicht, dass die von den Tech-Konzernen propagierte Selbstkontrolle und -regulierung nicht ausreichen. „Angesichts des hohen Tempos der KI-Entwicklung muss die Politik jetzt schnell und entschlossen handeln!“
In der Europäischen Union (EU) müssten die bereits vorhandenen Instrumente der Marktaufsicht gestärkt werden. Laut „AI Act“ müssen neue KI-Modelle mit systemischen Risiken zahlreiche Vorgaben unter anderem in Bezug auf Cybersicherheit, Trainingsdaten, Modell-Evaluation und Meldepflichten erfüllen. Eine verpflichtende externe Prüfung vor der Marktzulassung eines neuen KI-Modells gibt es allerdings bisher nicht.
„Der bestehende Rahmen muss sich jetzt in der Praxis bewähren. Anforderungen müssen bei Bedarf verschärft, einheitliche Prüfverfahren entwickelt und eigene Prüfkompetenzen aufgebaut werden.“ Stenkamp fordert daher: „Das europäische ‚AI Office‘ braucht dringend zusätzliche finanzielle und personelle Ressourcen, um die Sicherheit der neuen ,Frontier Modelle’ substanziell bewerten und die Einhaltung der Vorgaben durchsetzen zu können.“
Bewährte Zusammenspiel der Entwickler, externer Prüfer und behördlicher Aufsicht
Gleichzeitig sollte das „AI Safety and Security Institute“ (AISI) in Berlin zügig seine Arbeit aufnehmen, um Auswirkungen auf die Nationale Sicherheit selbst kompetent einschätzen zu können.
„Die Sicherheit der fortschrittlichen KI-Modelle kann kein Anbieter allein stemmen“, gibt Stenkamp zu bedenken und erläutert: „Es braucht das bewährte Zusammenspiel aus Selbstverantwortung der Entwickler, dem Know-how externer Prüfer und behördlicher Aufsicht.“ Rund um die Sicherheit von KI-Systemen entstehe gerade weltweit ein neuer Milliardenmarkt.
Stenkamps Appell: „Wir müssen ein ,Ökosystem’ aus öffentlichen KI-Instituten, etablierten Prüforganisationen und innovativen Startups schaffen. Europa hat hier beste Voraussetzungen, eine führende Rolle einzunehmen.“
Leistungsfähigste KI-Modelle werden Eingang in europäische Produkte finden
Die TÜV-Unternehmen hätten bereits früh in den Aufbau eigener KI-Kompetenzen investiert und mit dem „TÜV AI.Lab“ ein eigenes Joint Venture gegründet – dieses entwickle einheitliche Prüfverfahren und -methoden für KI-Systeme.
Neben den großen Allzweck-KI-Modellen wie „ChatGPT“, „Claude“ oder „Gemini“ regele der „EU AI Act“ insbesondere, unter welchen Bedingungen Produkte und Anwendungen mit integrierter KI in der EU auf den Markt gebracht werden dürfen.
„In naher Zukunft werden auch die leistungsfähigsten KI-Modelle Eingang in europäische Produkte finden“, erwartet Stenkamp und unterstreicht: „Wir können die Sicherheit dieser Produkte nur mit einheitlichen KI-Regeln gewährleisten.“
Klare Absage an weitere Aushöhlung des „EU AI Act“
In diesem Zusammenhang erteilt der TÜV-Verband Forderungen eine klare Absage, den europäischen „AI Act“ weiter auszuhöhlen. Industrievertreter forderten, dass nach Maschinen auch Medizinprodukte aus dem direkten Anwendungsbereich des „AI Act“ gestrichen und die KI-Anforderungen in sektoralen Einzelgesetzen geregelt werden.
„Der ,KI-Omnibus’ hat gezeigt, dass wir hier in die falsche Richtung steuern!“, warnt Stenkamp. Der „AI Act“ mache klare Vorgaben zur Sicherheit von Hochrisiko-KI-Systemen in Produkten.
Der „Sektor-Exit“ für Maschinen führe zu einer regulatorischen Fragmentierung mit unterschiedlichen Anforderungen, Verfahren und Fristen. „Das Ergebnis ist Rechtsunsicherheit und mehr statt weniger bürokratischer Aufwand für Unternehmen“, moniert Stenkamp abschließend – dies dürfe sich bei Medizinprodukten nicht wiederholen.
Zentrale Erkenntnisse der DS-Redaktion
- KI stellt ein virtuelles Werkzeug mit großem Wertschöpfung- wie auch Schadenspotenzial dar – es ist dringend erforderlich, grundsätzlich strenge Sicherheitsprüfungen abzuverlangen, wie sie ähnlich auch bei physischen Fertigungseinrichtungen angewendet werden.
- Die rasante KI-Entwicklung lässt erwarten, dass bald die leistungsfähigsten KI-Modelle Eingang in europäische Produkte finden, weshalb jetzt Fragen der Sicherheit vorab zu klären sind.
- Der „AI Act“ soll ja gerade klare Vorgaben zur Sicherheit von Hochrisiko-KI-Systemen in Produkten machen, weshalb zur Rechtssicherheit aller Beteiligten Ausnahmen zu vermeiden sind.
- Die Dimension der Sicherheit für Hochleistungs-KI ist so gewaltig, dass unbedingt die Kooperation möglichst vieler Akteure gesucht werden sollte.
- Die EU könnte hierzu mutig als Vorbild für den Weltmarkt auftreten – ähnlich den auf der DSGVO basierenden Standards.
Fazit der DS-Redaktion
Neue Technologie bewegt sich oft im Spannungsfeld der kritiklosen Selbstzweckbetrachtung einerseits und der naiven Verteufelung andererseits – um zu verhindern, dass etwa ein erst ein „Titanic-Vorfall“ auftreten muss, um das Sicherheitsniveau anzuheben, sollten sofort internationale, gar globale Regelungen getroffen werden. Es sei zudem daran erinnert, dass Kernenergie nach dem Zweiten Weltkrieg als Zukunftstechnologie galt, bis dann nach einigen Vorfällen mit kerntechnischen Anlagen anderenorts in Deutschland die totale Abkehr erfolgte. KI ist indes gekommen, um zu bleiben – also muss zur Verhinderung dystopischer Entwicklungen jetzt eine umfassende Einhegung durch Sicherheitsinstitutionen und -regelwerke erfolgen.
Weitere Informationen
TÜV VERBAND, 07.09.2026
TÜV-Organisationen entwickeln Zertifizierung für vertrauenswürdige KI
DATENSICHERHEIT.DE, 03.09.2026
AISI Deutschland soll zum Kompetenzzentrum für sichere KI werden
DATENSICHERHEIT.DE, 30.08.2026
Digitale Belegschaft im KI-Zeitalter: Open Secure AI Alliance für sichere KI gegründet
