Denis Lehmkemper will die Möglichkeiten der Künstlichen Intelligenz (KI) als Chance begreifen. Doch als Niedersachsens oberster Datenschützer muss er auch die rechtlichen Hürden im Blick behalten. Nach intensivem Austausch mit Experten verschiedenster Disziplinen hat Lehmkemper jetzt eine Handreichung an seinen Auftraggeber, den niedersächsischen Landtag, übergeben. Auf neun Seiten fasst er darin kompakt zusammen, welche Gedanken er sich zum KI-Einsatz in niedersächsischen Betrieben und Behörden gemacht hat – und wo er noch Regelungslücken sieht. Künstliche Intelligenz sei längst keine Zukunftsvision mehr, sondern bereits gelebte Praxis, betont Lehmkemper. „Damit der Einsatz dieser Systeme auch in Niedersachsen datenschutzkonform und grundrechtsfreundlich gelingt, müssen klare politische und rechtliche Rahmenbedingungen geschaffen werden.“

Für viele Regelungen im Bereich des Datenschutzes und des KI-Einsatzes sind zwar der Bund und die EU zuständig, aber insbesondere für die öffentlichen Stellen sollte aus Sicht des Landesbeauftragten für den Datenschutz explizit der Landesgesetzgeber tätig werden. So empfiehlt er, dass der Landtag eine Rechtsgrundlage für das Training von KI-Modellen und KI-Systemen mit personenbezogenen Daten für öffentliche Stellen schaffen sollte. Zudem sollten KI-spezifische Datenschutzvorschriften erlassen werden. Für die Landesverwaltung rät er dazu, ergänzende Regelungen zum KI-Einsatz zu prüfen und dann gegebenenfalls zu erlassen. Der Landesregierung rät Lehmkemper unterdessen, klare Rahmenbedingungen für den KI-Einsatz durch die Landesverwaltung zu setzen. Dies könne beispielsweise durch einen gemeinsamen Runderlass geschehen oder durch die Einbindung der Mitarbeiter. Dazu könnte etwa eine Vereinbarung gemäß Personalvertretungsgesetz mit den Spitzenorganisationen der Gewerkschaften getroffen werden. Technische und organisatorische Maßnahmen könnten standardisiert werden, um den datenschutzkonformen Einsatz Künstlicher Intelligenz zu regeln. Zudem sollte die Landesregierung aus Sicht des Datenschutzbeauftragten eine Handlungsempfehlung für die Grundrechte-Folgenabschätzung beim Einsatz von Hochrisiko-KI-Systemen herausgeben. Nicht zuletzt sollte sich die Landesregierung darum bemühen, den Beschäftigten des öffentlichen Dienstes Schulungsangebote zu machen, damit diese ihre KI-Kompetenzen ausbauen können.

„Wenn wir Künstliche Intelligenz in Niedersachsen sinnvoll einsetzen wollen, brauchen wir neben technischer Expertise auch rechtliche Sicherheit“, sagt Lehmkemper. „Der Datenschutz muss von Anfang an mitgedacht werden – nicht erst wenn Probleme auftreten.“ Um möglichst frühzeitig auf die Entwicklung eines KI-Systems Einfluss nehmen zu können, spricht sich Lehmkemper für Produkte aus Europa aus. Es sei ratsam, nicht nur Anwendungen aus den USA oder China zu beziehen, sondern auch die Entwickler vor Ort zu unterstützen. Deshalb solle sich Niedersachsen verstärkt in die Forschung zu KI einbringen, um Einfluss darauf zu nehmen, dass erklärbare KI entwickelt wird, oder Löschungsrechte in neuronalen Netzen künftig besser durchgesetzt werden können. Zudem solle sich Niedersachsen im Bereich der Wirtschaftspolitik darum bemühen, insbesondere kleine und mittlere Unternehmen dabei zu unterstützen, KI-Systeme in ihrem Betrieb einzusetzen.