Datenqualität in KI-Systemen: BSI stellt methodischen Leitfaden vor

Die europäische KI-Verordnung definiert Qualitätsanforderungen an KI-Trainingsdaten, die Aspekte wie Relevanz, Fehlerfreiheit und Vollständigkeit abdecken.

[datensicherheit.de, 01.07.2025] Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen veröffentlicht. Ziel der Dokumentenreihe Qualitycriteria for AI Trainingsdata in AI Lifecycle (QUAIDAL) ist die systematische Überführung dieser abstrakten Qualitätsanforderungen in konkrete Bausteine, Maßnahmen und Metriken & Methoden. Diese strukturierte Vorgehensweise unterstützt nach Angaben der Behörde die gezielte Einhaltung regulatorischer Vorgaben und erhöht deren technische Nachvollziehbarkeit im Entwicklungsprozess von KI-Systemen.

BSI-Präsidentin Claudia Plattner: „Wir müssen sicherstellen, dass Anwendungen mit Künstlicher Intelligenz hohen Qualitätsanforderungen entsprechen. Nur so können wir vertrauenswürdige KI herstellen und nutzen. Das BSI bietet mit diesem Katalog eine ganz konkrete Hilfestellung, die an der Basis ansetzt.“

QUAIDAL besonders an Anbieter von Hochrisiko-KI-Systemen gerichtet

QUAIDAL richtet sich insbesondere an Anbieter von Hochrisiko-KI-Systemen, für welche die KI-Verordnung detaillierte Anforderungen hinsichtlich Dokumentation, Datenmanagement und kontinuierlicher Qualitätssicherung definiert. Durch die modulare Gestaltung des Leitfadens können Projektverantwortliche und Entwicklungsteams frühzeitig passende Maßnahmen zur Sicherstellung der Datenqualität auswählen und deren Umsetzung systematisch nachweisen. Darüber hinaus lässt sich dieses modulare Konzept zukünftig flexibel erweitern, um neue technologische Entwicklungen zu berücksichtigen. Als nationale Cyber-Sicherheitsbehörde unterstützt das BSI mit QUAIDAL öffentliche Stellen und Unternehmen dabei, regulatorische Anforderungen umzusetzen und vertrauenswürdige KI-Anwendungen zu entwickeln.

Entwurf des Leitfadens steht ab sofort zu Kommentierung zur Verfügung

Der Entwurf des Leitfadens steht ab sofort auf der Webseite des BSI sowie in zwei maschinenlesbaren GitHub Repositories zur Verfügung. Die Community ist eingeladen, aktiv mitzuwirken und Vorschläge für eigene Bausteine, Maßnahmen und Metriken einzubringen.

Weitere Informationen zum Thema:

datensicherheit.de, 20.06.2025
Künstliche Intelligenz weckt Interesse: 60 Prozent der Deutschen möchten mehr über KI lernen