AI Act der EU verbietet bestimmte KI-Systeme und verpflichtet zur -Kompetenz

Die neue Regelung setzt das Verbot bestimmter KI-Systeme durch und legt Anforderungen an die -Kenntnisse der Beschäftigten fest

[datensicherheit.de, 05.02.2025] Der ursprünglich im März 2024 verabschiedete „AI Act“ der EU trat nun am 2. Februar 2025 in Kraft. „Er enthält eine Reihe von Vorschriften, die Unternehmen, die KI entwickeln und einsetzen, befolgen müssen“, erläutert Michael Curry, „President of Data Modernisation“ bei Rocket Software, in seiner aktuellen Stellungnahme. Diese neue Regelung setze das Verbot bestimmter KI-Systeme durch und lege die Anforderungen an die KI-Kenntnisse der Beschäftigten fest.

Foto: Rocket Software

Michael Curry erinnert daran: Am 2. August 2025 wird ein zweiter Teil des „EU AI Acts“ in Kraft treten…

Verpflichtende Kompetenz für alle Unternehmen vorgeschrieben, welche KI nutzen oder entwickeln

Curry führt aus: „Kapitel I, Artikel 4 des KI-Gesetzes schreibt eine verpflichtende KI-Kompetenz für alle Unternehmen vor, die KI-Systeme nutzen oder entwickeln.“ Bei dieser Verordnung liege der Schwerpunkt auf Wahrnehmung und Bildung, da sie von den Unternehmen verlange, „dass sie die Verantwortung für die Weiterbildung ihrer eigenen Mitarbeitenden übernehmen und eine interne Schulungsstruktur schaffen, die ihre Mitarbeitenden mit den notwendigen Fähigkeiten ausstattet, um diese Systeme verantwortungsvoll und ethisch zu nutzen“.

Dies werde in Zukunft ein entscheidendes Element der sogenannten Compliance sein, doch es sei auch notwendig, denn Arbeitskräfte, welche nicht über die nötigen Kenntnisse verfügen, um ihre KI-gestützten Systeme zu bedienen, würden nie die wahre Gesamtkapitalrentabilität ihrer Innovationen erreichen. Außerdem könne der Missbrauch von KI jedem Unternehmen großen Schaden bringen: „Von Datenlecks bis hin zu KI-Halluzinationen müssen Organisationen die KI-Schulung ihrer Mitarbeitenden genauso ernst nehmen, wie sie es tun würden, wenn sie Schwermaschinen bedienen würden.“

KI-Praktiken verboten, welche Individualrechte verletzen oder Schaden anrichten könnten

„Kapitel II, Artikel 5 des Gesetzes setzt Grenzen für aktuelle KI-Praktiken und verbietet solche, die die Individualrechte verletzen oder Schaden anrichten wollen.“ Dazu gehöre eine ganze Reihe von Anwendungsfällen, vom „Social Engineering“ über die Klassifizierung von Personen auf der Grundlage ihrer Handlungsmuster bis hin zur Vorhersage kriminellen Verhaltens. „Jedes Unternehmen, das KI für die Personalverwaltung oder für die persönliche Bewertung einsetzt, muss seine Prozesse gründlich überprüfen, um sicherzustellen, dass die Vorschriften eingehalten werden“, unterstreicht Curry.

Um dies zu erreichen, müssten Unternehmen robuste Datenschutzrichtlinien für ihre KI-Systeme sowie Zugangskontrollen zum Schutz sensibler Daten einrichten. „Jetzt ist es Zeit, umfassende Überwachungssysteme einzusetzen, die die Einhaltung dieser Vorschriften durch die eingesetzte KI sicherstellen und jeden potenziellen Verstoß sofort anzeigen, damit Unternehmen die Risiken entsprechend steuern können!“ In Zukunft werde das gesetzliche Regelwerk zudem noch komplexer: „Am 2. August 2025 wird ein zweiter Teil des ,EU AI Acts’ in Kraft treten, der sich auf die ,Governance’-Regeln und die Verpflichtungen für allgemeine KI-Modelle konzentriert.“

Weitere Informationen zum Thema:

EU Artificial Intelligence Act, 02.02.2025
Artikel 4: KI-Kompetenz

EU Artificial Intelligence Act, 02.02.2025
Artikel 5: Verbotene AI-Praktiken

datensicherheit.de, 04.02.2025
„AI Act“: Seit dem 2. Februar 2025 weitere Regelungen der europäischen KI-Verordnung in Kraft / Eigentlich sollte der „AI Act“ für Rechtssicherheit in Europa sorgen – aktuell droht das genaue Gegenteil, so die Bitkom-Kritik

datensicherheit.de, 03.02.2025
AI Act: eco-Kommentar zum Inkrafttreten – nationale Gesetzgebung muss Vision und Praxis vereinen! / Ab dem 2. Februar 2025 verbietet der „AI Act“ Manipulation durch KI, „Social Scoring“ und biometrische Fernidentifikation in Echtzeit

datensicherheit.de, 31.07.2024
EU AI Act ab 1. August 2024 in Kraft: TÜV AI.Lab bietet KI-Compliance-Check an / AI Act als Basis eines globalen Leitmarkts für sichere KI „Made in Europe“