KI-Whitepaper als Beitrag für kommende Umsetzung gesetzlicher Regulierung Künstlicher Intelligenz in der EU

TÜV-Verband, BSI und Fraunhofer stellen gemeinsames KI-Whitepaper „Towards Auditable AI Systems – From Principles to Practice“ vor

[datensicherheit.de, 24.05.2022] Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut (HHI) haben nach eigenen Angaben in einem gemeinsamen Whitepaper ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) vorgestellt. Die „Certification Readiness Matrix“ (CRM) beschreibt demnach, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene KI-Sicherheitsaspekte beurteilen sowie zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht. Hintergrund sei die geplante Regulierung von KI-Anwendungen in der Europäischen Union (EU).

Abbildung: TÜV VERBAND

TÜV VERBAND, BSI & Fraunhofer HHI: Whitepaper „Towards Auditable AI Systems – From Principles to Practice“

Prüfmatrix unterstützt praktische Umsetzung der KI-Verordnung

„Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“, erläutert Patrick Gilroy, Referent „Künstliche Intelligenz und Bildung“ beim TÜV-Verband.

Im Rahmen der KI-Verordnung werde geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden solle.

Dazu zählten beispielsweise die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder mit Menschen zusammenarbeitende Roboter. „Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten.“

Zertifizierungsmatrix stellt Methode zur Erfassung der Prüfbarkeit von KI-Qualitäts- und Sicherheitskriterien dar

Die Zertifizierungsmatrix stelle eine Methode zur Erfassung der Prüfbarkeit von Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wende diese exemplarisch an. Sie berücksichtige dabei den gesamten Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis zum Einsatz in der Praxis. Darüber hinaus beleuchte sie verschiedenste Aspekte der IT-Sicherheit.

„KI-Systeme müssen verschiedene Anforderungen erfüllen, um als sicher und vertrauenswürdig gelten zu können“, betont Gilroy. Dazu gehörten neben dem Schutz vor gesundheitlichen Gefahren auch die Abwehr von Cyber-Angriffen, die Robustheit gegenüber sich ändernden äußeren Einflüssen oder die Erklärbarkeit von Entscheidungen des KI-Systems.

Laut Gilroy geht man davon aus, dass sowohl Prüfer als auch Entwickler und Entscheidungsträger in der Industrie, Forschung und in Behörden von dieser „Certification Readiness Matrix“ profitieren könnten.

KI-Whitepaper im Rahmen einer gemeinsamen Workshop-Reihe entstanden

Das Whitepaper und die darin abgebildete „Certification Readiness Matrix“ seien im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfinde.

Die Diskussionen und Beiträge des letztjährigen Fachforums seien als Impulse eingeflossen und weiterentwickelt worden.

„Das Whitepaper, aber auch die gemeinsamen Veranstaltungen sind Ausdruck einer sehr intensiven und ergebnisorientierten Zusammenarbeit dreier Kompetenzpartner auf Augenhöhe. Diese Kooperation wollen wir weiter ausbauen“, unterstreicht Gilroy abschließend.

Weitere Informationen zum Thema:

TÜV VERBAND
Whitepaper | May 2022 / Towards Auditable AI Systems / From Principles to Practice