[datensicherheit.de, 05.09.2025] Die Berliner Beauftragte für Datenschutz und Informationsfreiheit (BlnBDI) meldet in ihrer Stellungnahme vom 4. September 2025, dass die unabhängigen Datenschutzaufsichtsbehörden der Länder „deutliche Kritik an einem aktuellen Gesetzesvorhaben des Bundesministeriums für Digitales und Staatsmodernisierung“ üben: Die Marktüberwachung für bestimmte grundrechtsrelevante Künstliche Intelligenz (KI) solle der Bundesnetzagentur (BNetzA) übertragen werden – unter anderem im Hoch-Sicherheitsbereich. Diese Aufgabe habe die „KI-Verordnung“ (KI-VO) aber bereits den Datenschutz-Aufsichtsbehörden zugewiesen.

© Annette Koroll

Meike Kamp zur KI-Kontrolle: Grundrechtsschutz ist kein Makel, sondern eine demokratische Notwendigkeit!

BMDS beabsichtigt, KI-Kontrolle einem neu zu schaffenden Gremium zu übertragen

„Der entsprechende Referentenentwurf führt zu einer massiven Schwächung von Grundrechten“, so die BlnBDI, Meike Kamp. Sie betont: „Laut ,KI-Verordnung’ ist es originäre Aufgabe der Datenschutzaufsichtsbehörden, in diesem Bereich der Marktüberwachung die Einhaltung von Grundrechten zu kontrollieren!“

• Stattdessen wolle nun das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) diese Aufgabe einem neu zu schaffenden Gremium übertragen. „Diese Entscheidung steht nicht zur Disposition des deutschen Gesetzgebers, weil das europäische Recht es bereits anders geregelt hat“, stellt Kamp klar.

Begründet werde dieses Vorhaben unter anderem damit, vermeintliche Hemmnisse für Innovation abbauen zu wollen, da sich „die Datenschutzbehörden primär auf den Grundrechtsschutz fokussieren“, wie es im Entwurf heiße. Betroffen seien Hochrisiko-KI‑Systeme, „sofern diese Systeme für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden“.

KI-Nutzung hat weitreichende Folgen – Schutz der Grundrechte demokratische Notwendigkeit

Kamp führt aus: „Die Datenschutz-Aufsichtsbehörden, die die Grundrechte der Bürgerinnen und Bürger wahren und stärken, sollen also eben deswegen künftig keine Rolle spielen bei der Aufsicht, und das in diesem sehr sensiblen Bereich. Das lässt ein merkwürdiges Verständnis der Bedeutung von Grundrechten und auch über die Aufgaben der Datenschutzaufsicht erkennen.“

• Die Landesdatenschutzbehörden wiesen im Übrigen darauf hin, „dass die Aufsichtsbehörden schon immer das Datenschutzrecht im Einklang mit anderen Grundrechten zu gewährleisten hatten“. So ermöglichten etwa Wissenschafts- und Gewerbefreiheit erst Innovationen. Dies zu berücksichtigen sei und bleibe Aufgabe der Datenschutzbehörden.

„Grundrechtsschutz ist kein Makel, sondern eine demokratische Notwendigkeit. Gerade angesichts der weitreichenden Auswirkungen, die die Nutzung von Künstlicher Intelligenz potenziell auf die Gesellschaft hat, müssen die Grundrechte der Bürgerinnen und Bürger geachtet werden!“, unterstreicht Kamp.

Von der europäischen „KI-Verordnung“ getroffene Regelungen sehen Ausgleich der Kompetenzen vor

Die Landesdatenschutzbehörden machten darüber hinaus klar, dass weder alle Kompetenzen bei der BNetzA gebündelt werden müssten noch bei den Datenschutz-Aufsichtsbehörden die gesamte Zuständigkeit der Marktüberwachung liegen müsse. Die von der europäischen „KI-Verordnung“ getroffenen Regelungen sähen einen Ausgleich der Kompetenzen vor.

• Kamps Forderung: „Diesem Weg sollte die Bundesregierung folgen!“ Die Aufsichtsbehörden des Bundes und der Länder verfügten über die Kompetenzen und Strukturen, um die Aufsicht über die KI-Systeme in den grundrechtsrelevanten Bereichen effizient und verbindlich wahrzunehmen.

Außerdem falle nach dem Gesetzentwurf der BNetzA auch die Marktaufsicht über den Einsatz von KI durch Landesbehörden zu. Dies sei jedenfalls beim Einsatz von KI für originäre Landesaufgaben verfassungswidrig.

Hintergrund: Nach Inkrafttreten der KI‐VO muss in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden

Im März 2024 hatte das Europäische Parlament die „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) angenommen.

• Nach Inkrafttreten der KI‐VO müsse in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden. In der anstehenden Länder- und Verbändeanhörung zum Referentenentwurf werden sich die Landesdatenschutzbehörden demnach mit einer Stellungnahme beteiligen.

Die Aufsicht über den Datenschutz ist in Deutschland föderal strukturiert: Neben der Aufsicht über die Landes- und Kommunalbehörden wird auch der nicht-öffentliche Bereich grundsätzlich von den Landesdatenschutzbehörden betreut. Insgesamt gibt es 17 Landesdatenschutzbehörden in Deutschland (in Bayern zwei).

Weitere Informationen zum Thema:

Di Berliner Beauftragte für Datenschutz und Informationsfreiheit
Über uns: Organisation

Di Berliner Beauftragte für Datenschutz und Informationsfreiheit
Über uns: Die Beauftragte für Datenschutz und Informationsfreiheit / Am 6. Oktober 2022 wurde Meike Kamp zur Berliner Beauftragten für Datenschutz und Informationsfreiheit gewählt. Seit ihrer Ernennung am 15. November 2022 leitet sie die Behörde.

datensicherheit.de, 04.02.2025
„AI Act“: Seit dem 2. Februar 2025 weitere Regelungen der europäischen KI-Verordnung in Kraft / Eigentlich sollte der „AI Act“ für Rechtssicherheit in Europa sorgen – aktuell droht das genaue Gegenteil, so die Bitkom-Kritik

datensicherheit.de, 02.08.2024
EU-KI-Verordnung: Auf den Menschen ausgerichtete und vertrauenswürdige Künstliche Intelligenz als Ziel / Der LfDI RLP kommentiert die am 1. August 2024 in Kraft getretene Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für KI

datensicherheit.de, 24.07.2024
KI-Verordnung tritt am 1. August 2024 in Kraft / Auch Datenschutzbehörden werden KI-VO umsetzen

datensicherheit.de, 09.05.2024
Nationale Zuständigkeiten für die KI-Verordnung: Datenschutzkonferenz fordert Aufsicht aus einer Hand / Die DSK empfiehlt, als Marktüberwachungsbehörden nach der KI-VO den Bundesbeauftragten für den Datenschutz und die Informationsfreiheit sowie die Landesdatenschutzbehörden zu benennen

[datensicherheit.de, 02.07.2013] Angesichts der Enthüllungen über eine umfassende Überwachung des internationalen Datenverkehrs fordert Reporter ohne Grenzen (ROG) die Bundesregierung auf, sich ohne diplomatische Rücksichten für den Schutz der Grundrechte im Internet einzusetzen. Die in den vergangenen Wochen bekannt gewordenen Informationen über Spähprogramme der USA und Großbritanniens zeigen, dass der Einsatz von Überwachungstechnologie nicht nur in den Händen autoritärer Regime die Informations- und Pressefreiheit bedroht.

„Die flächendeckende Überwachung des Datenverkehrs ist mit dem Menschenrecht auf Informations- und Pressefreiheit unvereinbar“, sagte ROG-Geschäftsführer Christian Mihr. Deshalb müssten die Überwachungsprogramme der USA und Großbritanniens jetzt lückenlos offengelegt und einer glaubwürdigen rechtsstaatlichen Kontrolle unterworfen werden. Zugleich forderte Mihr die Bundesregierung auf, sich für eine Überprüfung des Safe-Harbor-Abkommens starkzumachen, das beim Datenaustausch zwischen der EU und den USA europäische Schutzstandards garantieren soll: „Sämtliche Datenschutzvereinbarungen mit den USA gehören jetzt auf den Prüfstand.“ Er erneuerte die Forderung (http://bit.ly/13uw1Eu) nach verbindlichen Regeln zur Kontrolle des Exports von Überwachungstechnologie aus Deutschland und anderen westlichen Ländern.

Reporter ohne Grenzen weist in Berichten (http://bit.ly/WjJ86r) und politischen Stellungnahmen (http://bit.ly/13o3Tmx) regelmäßig darauf hin, wie digitale Massenüberwachung und gezielte Datenspionage – auch mit Hilfe westlicher Technologie – die Arbeit von Journalisten in repressiven Regimen gefährden. In Staaten wie China, dem Iran oder Bahrain können Journalisten aufgrund solcher staatlichen Eingriffe weder frei recherchieren noch den Schutz ihrer Informanten gewährleisten. Eine unabhängige, kritische Berichterstattung ist deshalb vielerorts nur unter großen persönlichen Risiken möglich.

Die nun bekanntgewordenen Überwachungsprogramme der USA und Großbritanniens offenbaren, dass sich auch hierzulande kein Journalist, der per Internet oder Telefon recherchiert, der Vertraulichkeit seiner Recherchen und des Schutzes seiner Quellen sicher sein kann. Dies gefährdet die Korrektivfunktion der Medien in einer demokratischen Gesellschaft. Der Skandal um abgehörte Telefonanschlüsse der Nachrichtenagentur Associated Press in den USA (http://bit.ly/16h1gBp) hat jüngst gezeigt, wie sehr schon eine punktuelle Überwachung die Bereitschaft von Informanten schwächen kann, mit Journalisten über heikle Themen zu sprechen. (http://nyti.ms/1ahOjHm) Umso gravierendere Folgen drohen nun in vielen Ländern als Konsequenz aus den flächendeckenden Überwachungsprogrammen der Geheimdienste NSA und GCHQ.

Vor zwei Wochen hat sich Deutschland der Freedom Online Coalition angeschlossen, einem Ende 2011 unter dem Eindruck des Arabischen Frühlings von der damaligen US-Außenministerin Hillary Clinton gegründeten Bündnis zum Schutz eines freien und offenen Internets. (http://bit.ly/19DfHnb) Damit hat sich die Bundesregierung verpflichtet, auf regionaler und internationaler Ebene für die Freiheit der Meinungsäußerung im Internet einzutreten. (http://bit.ly/199rQAM) Nun hat sie Gelegenheit zu zeigen, dass es ihr mit diesem Ziel ernst ist. Ein verbindliches Exportkontrollregime für Überwachungstechnologie wäre eine gute Gelegenheit dazu.

In der ROG-Rangliste der Pressefreiheit stehen die USA auf Platz 32 und Großbritannien auf Platz 29 von 179 Ländern. Aktuelle Meldungen zur Lage der Journalisten und Medien in beiden Ländern finden Sie unter http://en.rsf.org/united-states.html und http://en.rsf.org/united-kingdom.html.