Der Landesbeauftragte für den Datenschutz, Denis Lehmkemper, hat sich zum Einsatz von Künstlicher Intelligenz (KI) in der Landesverwaltung geäußert. Gemeinsam mit der Leiterin seiner Stabsstelle, Silke Jandt, hat er einen Aufsatz für die „Niedersächsischen Verwaltungsblätter“ geschrieben. Darin fordern die beiden Autoren eine Rechtsgrundlage für den Einsatz von KI in der Verwaltung. Diese sei unabdingbar. Adressat dieses Appells ist der Landtag als Landesgesetzgeber. Lehmkemper und Jandt versprechen, dass ihre Behörde „auch in Zukunft einen Beitrag dazu leisten wird, praxistaugliche Lösungen zu fördern, ohne ihren Auftrag zum Schutz personenbezogener Daten aus dem Blick zu verlieren“. Damit unterstreicht der Datenschutzbeauftragte seinen bisherigen Kurs, gegenüber technischen Neuerungen aufgeschlossen und kompromissbereit zu agieren und nicht etwa abwehrend.
Lehmkemper und Jandt erwähnen zunächst das „große Potenzial“ der Künstlichen Intelligenz, die Verwaltungstätigkeiten vereinfachen, beschleunigen und die Ergebnisse optimieren könne. Insofern sei das eine gute Antwort auf den Fachkräftemangel und den mit dem demographischen Wandel einhergehenden Bevölkerungsrückgang. Gegenwärtig gebe es eine „Vorbereitungsphase“ in der Verwaltung. Es gebe zwar noch nicht viele KI-Systeme, aber viele Akteure versuchten, Behördenvorgänge perspektivisch über KI zu erfassen. Dabei existierten einige rechtliche Unsicherheiten. So erläutern Lehmkemper und Jandt zunächst die KI-Verordnung für die Datenschutzgrundverordnung (DSGVO) der EU. Beide, die KI-Verordnung und die DSGVO, seien nebeneinander anwendbar. In Deutschland fehle nun noch ein nationales Gesetz zur Anwendung der KI-Verordnung. Die für die Überwachung zuständige Behörde musste bereits gemeldet werden, diese Aufgabe soll der Bundesnetzagentur zufallen. Wie die Autoren erwähnen, ist die Lage immer dann schwierig, wenn personenbezogene Daten verarbeitet werden.
Nun weisen die beiden Autoren auf praktische Schwierigkeiten hin. Heute schon würden Behörden KI einsetzen und auf die Verarbeitung personenbezogener Daten verzichten. Damit entgingen sie zwar der Pflicht, die DSGVO anzuwenden, aber sie müssten die KI-Verordnung beachten und einstufen, ob das Risiko für die Gesundheit und Sicherheit von Personen besteht. Wenn man nun den KI-Einsatz in der Verwaltung trainieren will, gebe es das Risiko der Verzerrung und Ungleichgewichtung – folgend aus der Tatsache, dass die KI ihre Regeln und Arbeitsweisen selbst festlege. Eine Möglichkeit, Rechtsunsicherheiten zu umgehen, könne in der Anonymisierung von personenbezogenen Daten liegen. Der Aufwand dafür, wenn es um große Datenmengen geht, sei aber sehr hoch. Auf jeden Fall rät der Datenschutzbeauftragte zur Vorsicht. KI-Systeme sollten nicht pauschal freigegeben werden, es müsse eine personalrechtliche Überprüfung geben und eine Sicherheitsüberprüfung. Der Schluss von Lehmkemper und Jandt ist dann aber versöhnlich: Angst und Ablehnung seien im Umgang mit Künstlicher Intelligenz die falschen Ratgeber. Auch sei es verkehrt, die technikaffinen Kollegen einfach mal machen zu lassen. Nötig seien rechtliche Grundlagen, die festlegen, welche Daten in welcher Intensität für das Training mit KI verwendet werden dürfen. Bisher schon gebe es zahlreiche Schritte, die es erlaubten, dem Datenschutz Rechnung zu tragen. Auf dieser Basis könne man „Best Practice“-Beispiele entwickeln.
