Effektive Absicherung der KI-Systeme: TÜV Rheinland publiziert Whitepaper

Welche spezifischen Risiken bei der Nutzung von „Large Language Models“ (LLMs) entstehen, erörtert der TÜV Rheinland in seinem aktuellen Whitepaper „Ist Ihr KI-System sicher?“ und gibt Tipps

[datensicherheit.de, 10.11.2025] Generative Künstliche Intelligenz (KI) revolutioniert offensichtlich nicht nur zahlreiche Branchen – sie schafft andererseits auch neue Angriffsflächen und sicherheitstechnische Herausforderungen. Der TÜV Rheinland benennt hierzu den beispielhaften Fall, wenn Unternehmen große Sprachmodelle in „Chatbots“, Assistenzsystemen oder automatisierten Entscheidungsprozessen einsetzen. Welche spezifischen Risiken bei der Nutzung von „Large Language Models“ (LLMs) entstehen, erörtert der TÜV Rheinland in seinem aktuellen Whitepaper „Ist Ihr KI-System sicher?“. Zudem werde aufgezeigt, wie Unternehmen ihre KI-Anwendungen effektiv absichern können.

Warnung vor Angriffen mittels Manipulation von Eingaben und KI-Trainingsdaten

Das vorliegende Whitepaper beschreibt demnach, wie KI-Systeme angegriffen werden können. Ein Beispiel seien sogenannte Prompt Injections, bei denen Angreifer mit ihrer Eingabe das Modell manipulierten, damit es sich unvorhersehbar verhalte oder Informationen preisgebe – „und zwar solche, die nicht zugänglich sein sollten“.

• Weitere Risiken seien der unsichere Umgang mit den Ergebnissen generativer KI – etwa, indem Nutzer nicht validierte Codes ausführten – und die Manipulation von Trainingsdaten durch einen Angreifer.

Sowohl Angriffe als auch der falsche Umgang mit KI-Ergebnissen könnten fatale Folgen haben – von Datenlecks über fehlerhafte Entscheidungen bis hin zu wirtschaftlichen Schäden. Daher sei ein systematisches Risikomanagement für Unternehmen unerlässlich: Nicht zuletzt forderten dies auch zunehmend Regulierungen wie der „EU AI Act“. „Unternehmen müssen ihre Sicherheitskonzepte anpassen, um den Risiken von KI-Systemen gerecht zu werden“, unterstreicht Daniel Hanke, Experte für KI-Sicherheit beim TÜV Rheinland.

Pentests als Erfolgsindikator für KI-Sicherheit

Eine der wirksamsten Maßnahmen, um Bedrohungen frühzeitig zu erkennen und Schwachstellen zu schließen, sei das „Penetration Testing“ (Pentest): Im kontrollierten Rahmen simulierten Fachleute dabei Angriffe auf KI-Systeme, um potenzielle Schwachstellen zu identifizieren und zu beheben.

• Methoden wie „Black Box“- und „Gray Box“-Tests würden dabei an die Anforderungen von generativer KI angepasst. „KI-Systeme sind komplex und intransparent. Das erfordert neue Testansätze“, so Hanke.

Abschließend führt er aus: „Durch regelmäßige ,Penetration Tests’ können Unternehmen ihre Systeme widerstandsfähig machen und somit regulatorische Vorgaben erfüllen. Außerdem stärken sie so das Vertrauen von Partnern und Kunden.“

Weitere Informationen zum Thema:

TÜVRheinland
Über uns

TÜV Rheinland, 2025
Wie Sie eigene LLMs mit Penetration Testing und Best Practices gegen Risiken wappnen

Linkedin
Daniel Hanke – TÜV Rheinland Group

IBM, Cole Stryker & Mark Scapicchio
Was ist generative KI und wie funktioniert sie?

Fraunhofer IESE, Patricia Kelbert & Dr. Julien Siebert & Lisa Jöckel, 12.12.2023
Was sind Large Language Models? Und was ist bei der Nutzung von KI-Sprachmodellen zu beachten?

EU Artificial Intelligence Act
Die Gesetzestexte

datensicherheit.de, 13.06.2025
Generative KI boomt – zunehmende Sicherheitsrisiken als Kehrseite der Medaille / Zwar ermöglicht Generative KI beispiellose Produktivitätssteigerungen, gleichzeitig führt sie jedoch auch zu neuen, komplexen Risiken

datensicherheit.de, 03.07.2024
Generative KI gewinnt im Alltag an Bedeutung und definiert Prinzipien der Datensicherheit neu / Joseph Regensburger kommentiert private und berufliche Herausforderungen der KI-Fortentwicklung hinsichtlich der Datensicherheit

datensicherheit.de, 24.07.2018
Pentester finden gravierende IT-Sicherheitsschwachstellen in Unternehmen / Neuer Report „Under the Hoodie: 2018 – Lessons From a Season of Penetration Testing“ von Rapid7 veröffentlicht