KI zur Strafverfolgung und Gefahrenabwehr: BfDI legt Konsultationsbericht vor

KI wird eingesetzt, ohne dass grundlegende rechtliche Fragen beantwortet wären, warnt Prof. Ulrich Kelber

[datensicherheit.de, 04.04.2022] Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat nach eigenen Angaben „die Ergebnisse des Konsultationsverfahrens zum Einsatz von Künstlicher Intelligenz (KI) im Bereich der Strafverfolgung und der Gefahrenabwehr“ veröffentlicht. „KI wird eingesetzt, ohne dass grundlegende rechtliche Fragen beantwortet wären. Der Gesetzgeber sollte jetzt zeitnah die notwendigen Entscheidungen treffen“, kommentiert der BfDI, Prof. Ulrich Kelber.

Foto: Bundesregierung/Kugler

Prof. Ulrich Kelber: Umfassende, empirische und interdisziplinäre Bestandsaufnahme durch den Gesetzgeber notwendig!

Im September 2021 sieben grundlegende Thesen zum KI-Einsatz zur Diskussion gestellt

Der BfDI habe im September 2021 sieben grundlegende Thesen zum Einsatz von KI im Bereich der Strafverfolgung und der Gefahrenabwehr zur Diskussion gestellt. Die eingegangenen Stellungnahmen seien nun im Konsultationsbericht ausgewertet worden.

Dieser zeige, „dass eine umfassende, empirische und interdisziplinäre Bestandsaufnahme durch den Gesetzgeber notwendig ist“. Beim KI-Einsatz müssten allgemeine Datenschutzgrundsätze beachtet und garantiert werden.

KI-Einsatz im Sicherheitsbereich bedarf spezifischer gesetzlichen Regelung

Der KI-Einsatz im Sicherheitsbereich bedürfe in der Regel einer spezifischen gesetzlichen Regelung, wobei für die Ausgestaltung dieser Regelung die spezifischen Ausprägungen der im Einzelfall eingesetzten KI-Technologie maßgeblich seien.

Aus Sicht des BfDI sei auf die Erklärbarkeit von KI ein besonderes Augenmerk zu legen. Der Schutz des Kernbereichs privater Lebensgestaltung dürfe durch den Einsatz von KI durch Sicherheitsbehörden nicht verwässert werden. KI-Anwendungen müssten daher umfassend durch die Datenschutzaufsichtsbehörden kontrolliert werden können.

Umfassende Datenschutz-Folgeabschätzung, bevor KI eingesetzt wird

Nicht zuletzt müsse es eine umfassende Datenschutz-Folgeabschätzung geben, „bevor KI eingesetzt wird“. Als Fazit stellt Professor Kelber fest: „Soweit personenbezogene Daten mit KI verarbeitet werden, ist der Gesetzgeber in Bund und Ländern bereits aufgrund seiner grundrechtlichen Schutzpflichten aufgerufen, tätig zu werden.“

Dazu sei eine umfassende öffentliche Debatte notwendig. Das BfDI-Konsultationsverfahren solle ein Schritt hierfür sein. Die ausführlichen Ergebnisse des Konsultationsverfahrens und die Beiträge der Konsultationsteilnehmer seien online im Bereich „Der BfDI“ zusammengestellt worden.

Weitere Informationen zum Thema:

BfDI, Der BfDI
Bericht über das öffentliche Konsultationsverfahren

datensicherheit.de, 04.10.2021
KI zur Strafverfolgung und Gefahrenabwehr: BfDI-Konsultationsverfahren gestartet / KI-Einsatz auf diesem Gebiet wirft laut BfDI grundsätzliche Fragen auf, die noch nicht geklärt sind