KI-Kontrolle: Scharfe Kritik der Landesdatenschutzbehörden am BMDS

Berliner Beauftragte für Datenschutz und Informationsfreiheit warnt vor Schwächung des Grundrechtsschutzes und verweist auf „KI-Verordnung“

[datensicherheit.de, 05.09.2025] Die Berliner Beauftragte für Datenschutz und Informationsfreiheit (BlnBDI) meldet in ihrer Stellungnahme vom 4. September 2025, dass die unabhängigen Datenschutzaufsichtsbehörden der Länder „deutliche Kritik an einem aktuellen Gesetzesvorhaben des Bundesministeriums für Digitales und Staatsmodernisierung“ üben: Die Marktüberwachung für bestimmte grundrechtsrelevante Künstliche Intelligenz (KI) solle der Bundesnetzagentur (BNetzA) übertragen werden – unter anderem im Hoch-Sicherheitsbereich. Diese Aufgabe habe die „KI-Verordnung“ (KI-VO) aber bereits den Datenschutz-Aufsichtsbehörden zugewiesen.

© Annette Koroll

Meike Kamp zur KI-Kontrolle: Grundrechtsschutz ist kein Makel, sondern eine demokratische Notwendigkeit!

BMDS beabsichtigt, KI-Kontrolle einem neu zu schaffenden Gremium zu übertragen

„Der entsprechende Referentenentwurf führt zu einer massiven Schwächung von Grundrechten“, so die BlnBDI, Meike Kamp. Sie betont: „Laut ,KI-Verordnung’ ist es originäre Aufgabe der Datenschutzaufsichtsbehörden, in diesem Bereich der Marktüberwachung die Einhaltung von Grundrechten zu kontrollieren!“

• Stattdessen wolle nun das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) diese Aufgabe einem neu zu schaffenden Gremium übertragen. „Diese Entscheidung steht nicht zur Disposition des deutschen Gesetzgebers, weil das europäische Recht es bereits anders geregelt hat“, stellt Kamp klar.

Begründet werde dieses Vorhaben unter anderem damit, vermeintliche Hemmnisse für Innovation abbauen zu wollen, da sich „die Datenschutzbehörden primär auf den Grundrechtsschutz fokussieren“, wie es im Entwurf heiße. Betroffen seien Hochrisiko-KI‑Systeme, „sofern diese Systeme für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden“.

KI-Nutzung hat weitreichende Folgen – Schutz der Grundrechte demokratische Notwendigkeit

Kamp führt aus: „Die Datenschutz-Aufsichtsbehörden, die die Grundrechte der Bürgerinnen und Bürger wahren und stärken, sollen also eben deswegen künftig keine Rolle spielen bei der Aufsicht, und das in diesem sehr sensiblen Bereich. Das lässt ein merkwürdiges Verständnis der Bedeutung von Grundrechten und auch über die Aufgaben der Datenschutzaufsicht erkennen.“

• Die Landesdatenschutzbehörden wiesen im Übrigen darauf hin, „dass die Aufsichtsbehörden schon immer das Datenschutzrecht im Einklang mit anderen Grundrechten zu gewährleisten hatten“. So ermöglichten etwa Wissenschafts- und Gewerbefreiheit erst Innovationen. Dies zu berücksichtigen sei und bleibe Aufgabe der Datenschutzbehörden.

„Grundrechtsschutz ist kein Makel, sondern eine demokratische Notwendigkeit. Gerade angesichts der weitreichenden Auswirkungen, die die Nutzung von Künstlicher Intelligenz potenziell auf die Gesellschaft hat, müssen die Grundrechte der Bürgerinnen und Bürger geachtet werden!“, unterstreicht Kamp.

Von der europäischen „KI-Verordnung“ getroffene Regelungen sehen Ausgleich der Kompetenzen vor

Die Landesdatenschutzbehörden machten darüber hinaus klar, dass weder alle Kompetenzen bei der BNetzA gebündelt werden müssten noch bei den Datenschutz-Aufsichtsbehörden die gesamte Zuständigkeit der Marktüberwachung liegen müsse. Die von der europäischen „KI-Verordnung“ getroffenen Regelungen sähen einen Ausgleich der Kompetenzen vor.

• Kamps Forderung: „Diesem Weg sollte die Bundesregierung folgen!“ Die Aufsichtsbehörden des Bundes und der Länder verfügten über die Kompetenzen und Strukturen, um die Aufsicht über die KI-Systeme in den grundrechtsrelevanten Bereichen effizient und verbindlich wahrzunehmen.

Außerdem falle nach dem Gesetzentwurf der BNetzA auch die Marktaufsicht über den Einsatz von KI durch Landesbehörden zu. Dies sei jedenfalls beim Einsatz von KI für originäre Landesaufgaben verfassungswidrig.

Hintergrund: Nach Inkrafttreten der KI‐VO muss in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden

Im März 2024 hatte das Europäische Parlament die „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) angenommen.

• Nach Inkrafttreten der KI‐VO müsse in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden. In der anstehenden Länder- und Verbändeanhörung zum Referentenentwurf werden sich die Landesdatenschutzbehörden demnach mit einer Stellungnahme beteiligen.

Die Aufsicht über den Datenschutz ist in Deutschland föderal strukturiert: Neben der Aufsicht über die Landes- und Kommunalbehörden wird auch der nicht-öffentliche Bereich grundsätzlich von den Landesdatenschutzbehörden betreut. Insgesamt gibt es 17 Landesdatenschutzbehörden in Deutschland (in Bayern zwei).

Weitere Informationen zum Thema:

Di Berliner Beauftragte für Datenschutz und Informationsfreiheit
Über uns: Organisation

Di Berliner Beauftragte für Datenschutz und Informationsfreiheit
Über uns: Die Beauftragte für Datenschutz und Informationsfreiheit / Am 6. Oktober 2022 wurde Meike Kamp zur Berliner Beauftragten für Datenschutz und Informationsfreiheit gewählt. Seit ihrer Ernennung am 15. November 2022 leitet sie die Behörde.

datensicherheit.de, 04.02.2025
„AI Act“: Seit dem 2. Februar 2025 weitere Regelungen der europäischen KI-Verordnung in Kraft / Eigentlich sollte der „AI Act“ für Rechtssicherheit in Europa sorgen – aktuell droht das genaue Gegenteil, so die Bitkom-Kritik

datensicherheit.de, 02.08.2024
EU-KI-Verordnung: Auf den Menschen ausgerichtete und vertrauenswürdige Künstliche Intelligenz als Ziel / Der LfDI RLP kommentiert die am 1. August 2024 in Kraft getretene Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für KI

datensicherheit.de, 24.07.2024
KI-Verordnung tritt am 1. August 2024 in Kraft / Auch Datenschutzbehörden werden KI-VO umsetzen

datensicherheit.de, 09.05.2024
Nationale Zuständigkeiten für die KI-Verordnung: Datenschutzkonferenz fordert Aufsicht aus einer Hand / Die DSK empfiehlt, als Marktüberwachungsbehörden nach der KI-VO den Bundesbeauftragten für den Datenschutz und die Informationsfreiheit sowie die Landesdatenschutzbehörden zu benennen