Darf die Landesverwaltung zur Erleichterung ihrer Arbeit auf Programme mit Künstlicher Intelligenz zurückgreifen? Empfehlungen zum Umgang mit dieser Frage möchte Niedersachsens Landesbeauftragter für den Datenschutz, Denis Lehmkemper, in den kommenden Wochen an den Landtag weiterleiten. Zuvor hat er sich in mehreren Fachgesprächen in seinem sogenannten KI-Expertenkreis ausgetauscht. Im Rundblick-Podcast hat Lehmkemper bereits verraten, dass er davon ausgeht, dass KI im Behördenalltag zeitnah ankommen wird. Vom Parlament erwartet er nun, für den Umgang mit derartigen Anwendungen entsprechende Leitplanken zu setzen. „Da muss der Landesgesetzgeber klare Regeln einziehen. Andere Länder, Hamburg zum Beispiel, sind da deutlich weiter als Niedersachsen“, sagt der erfahrene Verwaltungsjurist. Dass zeitnah in Deutschland ein eigenes, datenschutzkonformes KI-System entwickelt wird, das mit den gängigen Anwendungen mithalten kann, glaubt Lehmkemper nicht. „Aber die Rahmenbedingungen so zu machen, dass die hier im Land erhobenen und verarbeiteten Daten nicht genutzt werden können, um das große Sprachmodell hier oder da weltweit besser zu machen, das wäre mir schon ganz wichtig.“

Lehmkemper fordert, sich nicht abhängig zu machen von den großen Tech-Konzernen. Es sei zwar vorlockend, sich an deren Programmpalette zu bedienen. Doch es drohten sogenannte Lock-In-Effekte: Nutzt man erst einmal die Programme eines bestimmten Anbieters, kommt man davon kaum noch weg. Lehmkemper rät Behörden deshalb zu Open Source-Programmen, wie etwa Schleswig-Holstein das bereits mache. Cloud-Services sollten von europäischen, wenn nicht sogar deutschen Anbietern genutzt werden. „Das wird voraussichtlich teurer. Aber das ist gut angelegtes Geld.“ Auch wenn sich die Grundsätze des Datenschutzes – wie etwa der Grundsatz der Datensparsamkeit, der Transparenz, der Nachvollziehbarkeit oder der Richtigkeit – sowohl an den Anbieter als auch an den Anwender der KI richten, wählt Lehmkemper einen pragmatischen Ansatz: Erreichen kann er hier in Niedersachsen nur diejenigen, die mit dem KI-System arbeiten und dieses hier mit Daten füttern. Wie das Programm zuvor trainiert wurde, und ob dabei personenbezogene Daten verwendet wurden, entzieht sich jedoch seinem Zugriff.

Im Innenausschuss des niedersächsischen Landtags und in der Landespressekonferenz hat Lehmkemper am Donnerstag seinen Tätigkeitsbericht vorgestellt. Es ist bereits der 30. Bericht der Datenschutzbehörde insgesamt, allerdings der erste Bericht, der sich allein mit dem Wirken des seit Herbst 2023 neuen Datenschutzbeauftragten befasst. Diese Themen stechen aus dem fast 200 Seiten starken Bericht heraus: