Schluss mit Datenmissbrauch: IT-Sicherheitsexpertin Patrycja Schrenk begrüßt KI-Verordnung

Die EU hat mit der KI-Verordnung (AI Act) bedeutenden Schritt unternommen, um Missbrauch von Daten zu unterbinden und Privatsphäre der Bürger zu schützen

[datensicherheit.de, 18.03.2024] Nach Ansicht von Patrycja Schrenk, Geschäftsführerin der PSW GROUP, hat die Europäische Union (EU) mit der sogenannten KI-Verordnung („Artificial Intelligence Act“ / AI Act) einen bedeutenden Schritt unternommen, um den Missbrauch von Daten zu unterbinden und die Privatsphäre ihrer Bürger zu schützen: „Diese Verordnung ist wegweisend, denn sie legt klare Regeln und Anforderungen für Unternehmen fest, die KI-Systeme entwickeln oder nutzen.“

Foto: PSW GROUP

Patrycja Schrenk: Die zunehmende KI-Präsenz in unserem Alltag erfordert eine angemessene Regulierung, um die Würde, Privatsphäre und andere Grundrechte zu wahren!

Ziele der KI-Verordnung vielfältig

Die Ziele der KI-Verordnung seien vielfältig: „Sie zielt zum einen darauf ab, dass KI-Systeme die Würde, Privatsphäre und andere Grundrechte von Menschen respektieren, zum anderen aber auch darauf, das Vertrauen in KI-Systeme zu stärken.“ Zudem solle diese Verordnung die europäische Wirtschaft unterstützen – indem sie demnach einen einheitlichen Rechtsrahmen für den Einsatz von KI in der EU schafft. Durch die Einstufung von KI-Systemen in verschiedene Risikoklassen würden Anforderungen und Pflichten festgelegt, um das Risiko für den Missbrauch von Daten zu minimieren.

Eine Schlüsselbestimmung der Verordnung sei die Transparenz und Verantwortlichkeit bei der Datenverarbeitung durch KI-Systeme: „Bei Nutzung von KI-Systemen, wie ,Chatbots’ beispielsweise, sollten Nutzende wissen, dass sie mit einer Maschine interagieren. Zudem müssen KI-generierte Inhalte wie ,Deep Fakes’ als solche kenntlich gemacht werden und Anbieter sind angehalten sicherzustellen, dass synthetische Audio-, Video-, Text- und Bildinhalte als künstlich erzeugt oder manipuliert erkennbar sind“, erläutert Schrenk.

Negative Auswirkungen auf Grundrechte durch KI-Einsatz erkennen, bewerten und verhindern

Neue Regelungen in der Verordnung beträfen unter anderem Pflichten zur Dokumentation, „Governance“ und zum Risikomanagement sowie die Einführung einer verpflichtenden Prüfung zur Wahrung der Grundrechte. Diese Prüfung ähnele der Datenschutz-Folgenabschätzung und diene dazu, negative Auswirkungen auf Grundrechte durch den Einsatz von KI besser zu erkennen, zu bewerten und zu verhindern.

„Darüber hinaus erhalten diejenigen, die von KI-Systemen betroffen sind, ein gesetzliches Recht auf Beschwerde und Auskunft bei Entscheidungen, die von KI-Systemen getroffen werden“, so Schrenk. Bei Verstößen gegen die KI-Verordnung drohten hohe Bußgelder von bis zu 40 Millionen Euro oder bis zu sieben Prozent des gesamten weltweit erzielten Umsatzes des vorangegangenen Geschäftsjahres.

KI-Verordnung wird Unternehmen vor neue Herausforderungen stellen

„Die KI-Verordnung wird Unternehmen vor neue Herausforderungen stellen. Sie müssen zunächst ihre KI-Systeme identifizieren und klassifizieren. Zudem gibt es auch bereits andere gesetzliche Vorgaben für den Einsatz von KI, wie Datenschutz, Urheberrecht und Schutz von Geschäftsgeheimnissen, die beachtet werden sollten.“

Gleichzeitig eröffnet diese Verordnung laut Schrenk aber auch Chancen für eine transparente und verantwortungsvolle Nutzung von KI-Systemen – denn sie lege Wert auf Transparenz und Rechenschaftspflicht bei der Datenverarbeitung und stärke so das Vertrauen der Verbraucher in KI-Technologien.

Bis KI-Verordnung in Kraft tritt, wird es noch etwas dauern

Schrenk begrüßt nach eigenen Angaben diese Entwicklung. Die zunehmende KI-Präsenz in unserem Alltag erfordere eine angemessene Regulierung, um die Würde, Privatsphäre und andere Grundrechte zu wahren. Sie erläutert: „Immerhin ist von Empfehlungssystemen bis hin zu Systemen, die über Kreditvergaben oder Jobangebote entscheiden, die Bandbreite der Anwendungen enorm gewachsen.“

Bis die KI-Verordnung in Kraft tritt, dürfte noch einige Zeit vergehen: „Sie wurde am 8. Dezember 2023 politisch vereinbart, derzeit wird der Text des ,AI Acts’ finalisiert und muss anschließend noch vom Europäischen Parlament und vom Rat angenommen werden.“ Zudem werde es einen Übergangszeitraum geben, bevor die Verordnung in Kraft tritt.

Weitere Informationen zum Thema:

datensicherheit.de, 15.03.2024
EU AI Act: Peter Sandkuijl kommentiert KI-Gesetz aus IT-Security-Sicht / KI-Gesetz soll Kontrollen und Abstufungen für den Einsatz festlegen, um verschiedene Gefahren zu bannen

datensicherheit.de, 14.03.2024
EU-KI-Verordnung: BfDI begrüßt Ergänzung zur Datenschutz-Grundverordnung / Europäisches Parlament hat Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung) verabschiedet

PSW GROUP Consulting Blog, 10.01.2024
Schluss mit Datenmissbrauch: Wie die KI-Verordnung unsere Privatsphäre schützt