Eine Frage zu Beginn: Welches ist die Landeshauptstadt von Niedersachsen? Das ist eine recht einfache Themenstellung, aber auch an ihr lassen sich die Funktionsweisen der so oft beschriebenen, aber für viele noch recht fremden „Künstlichen Intelligenz“ (KI) nachvollziehen, sagt der Anwalt Benno Barnitzke, der ein Fachmann für diese Fragen ist. Die KI würde deshalb mit „Hannover“ antworten, weil der Name vorher ins System eingespeist worden ist. Je intensiver die KI mit verschiedenen Daten, Analysen, historischen Darstellungen und Dokumenten gefüttert wurde, desto klarer könnte die KI auch die Antwort belegen.
„Nur eines kann die KI nicht: Sie kann kein Werturteil treffen“, fügt Barnitzke hinzu. Mit anderen Worten: Die Gründe und ihre Gewichtung, warum zu bestimmten Zeiten die Entscheidung für Hannover fiel und nicht etwa für Braunschweig, Oldenburg oder Osnabrück, kann KI nicht selbst verstehen. Sie nutzt nur die Daten, mit denen sie gefüttert wurde, und sie vernetzt diese Daten. Anhand der Wahrscheinlichkeit eines Treffers werden dann Auskünfte gegeben. Dass landsmannschaftliche Rivalitäten eine Rolle spielen, vielleicht auch Bündnisse zwischen verschiedenen Volksgruppen, Verhandlungen und Kompromisse – all das blendet die KI aus. Oder sie zieht es aus Quellen, die andere für sie aufgeschrieben haben. Eigene Einschätzungen dazu aber bleiben Fehlanzeige.
Barnitzke und sein Kollege Prof. Fabian Schmieder von der Hochschule Hannover nutzen vor rund 100 Vertretern von Unternehmen, Wissenschaft, Medien und Verbänden die Chance, zunächst einmal die Angst vor einer KI-Herrschaft zu zerstreuen. Beide verbreiten die These, die KI sei – anders als der Name es nahe legt – gar nicht intelligent. Intelligent seien vielleicht jene, die sie mit Daten füttern und kluge Fragestellungen entwickeln, die dann daraufhin vom Computer gelöst werden. Aber die Semantik beherrsche die KI eben nicht. Sie könne nicht die Bedeutung von Wörtern, Formulierungen und Redewendungen, von Begriffen und Reizworten erfassen oder erspüren. Das System „Chat GBT“ beispielsweise habe schlicht „kein Bewusstsein“, betont Barnitzke. Deshalb stehen er und Prof. Schmieder auch Überlegungen kritisch gegenüber, man müsse der KI rein rechtlich irgendwann eine Persönlichkeit zusprechen, ein Vermögen zuteilen und sie haftbar machen – also ihr die Verantwortung übertragen, wenn beispielsweise ein selbstfahrendes Auto einen Verkehrsunfall verursacht hat. „Das bleibt am Ende immer beim Menschen hängen“, meint der Anwalt. Alles andere „schafft mehr Probleme, als es Probleme lösen kann“, ergänzt Prof. Schmieder.
Aber sollte man dann nicht lieber die Finger von KI lassen? Der Präsident der Unternehmerverbände Niedersachsen, Andreas Jäger, warnt davor. Er sieht aus Arbeitgebersicht die Bedeutung von KI zunächst sehr positiv. „Wenn wir Deutschland mit der lähmenden Bürokratie sehen und gleichzeitig erleben, wie hierzulande über Datenschutz diskutiert wird, dann haben wir irgendwann zwar KI – aber solche aus den USA oder aus China, weil die EU nicht mutig genug bei der Einführung eigener Systeme war“, sagt Jäger. Er fordert daher, man dürfe bei der Einführung von KI „nicht jetzt schon die Risiken überbetonen“. Natürlich gibt es viele wirtschaftliche Chancen, meint daraufhin Barnitzke: „Wenn man im Anwaltsbüro einen Schriftsatz mit KI erstellt, dauert das vielleicht zwei Stunden. Ohne KI braucht man dafür sechs Stunden. Das ist also schon ein Effizienzgewinn.“ Prof. Schmieder meint, dass die EU in dieser Frage zu Unrecht an den Pranger gestellt werde. Denn im Entwurf einer EU-Rechtsverordnung zur KI werde der richtige Ansatz verfolgt – es gehe um eine „risikobasierte Sichtweise“. Erlaubt werden sollten also Schritte, die keinen Menschen gefährden oder in seinen Rechten beschränken. Die Überwachung mittels KI, in China längst gang und gäbe, wäre demnach wohl nicht gestattet, die Anwendung von KI in Massenverfahren – in der staatlichen Verwaltung oder bei den Gerichten – allerdings schon. Das biete sehr viele Möglichkeiten. Spannend wird dann die Einteilung im Detail. Prof. Schmieder etwa kann sich das vorstellen in Form von weitgehender Technisierung, der neue niedersächsische Datenschutzbeauftragte Denis Lehmkemper hingegen bremst hier etwas: „Es müsste gewährleistet werden, dass am Ende immer ein Mensch draufschauen und etwas aufhalten kann, wenn es erforderlich wird.“
„Es müsste gewährleistet werden, dass am Ende immer ein Mensch draufschauen und etwas aufhalten kann, wenn es erforderlich wird.“
In der vom UVN-Vize-Hauptgeschäftsführer Benedikt Hüppe geleiteten Diskussionsrunde wurde rasch grundsätzliche Einigkeit erzielt: Unternehmen sollen, wenn sie KI nutzen wollen, maßvoll und überlegt vorgehen, keine Wunder erwarten und in jedem Fall die Beschäftigten einbeziehen – auch wenn das rein formal gar nicht mitbestimmungspflichtig sei, bisher jedenfalls. Wenn irgendjemand im Unternehmen ein Störgefühl entwickeln sollte, sei Vorsicht geboten. Lehmkemper sichert zu, dass er als Datenschutzbeauftragter nicht bremsen will, sondern vor allem zuhören. Es komme darauf an, für diese Systeme Leitplanken zu setzen – und es habe keinen Zweck, KI bekämpfen oder zwanghaft stoppen zu wollen. „Es kommt ohnehin, also müssen wir schauen, wie wir es machen. Wir halten es nicht mehr auf, wir müssen es gestalten.“ Wenn es um Persönlichkeitsschutz gehe, um Gewalt und Schutz von Kindern und Jugendlichen, sei besondere Zurückhaltung geboten. Kontrolle, ergänzt Hüppe, müsse es in jedem Fall geben. Denn man habe von Berichten gelesen, in denen die KI auch gelogen habe, um auf diesem Weg bestimmte strategische Ziele zu erreichen. Negative menschliche Eigenschaften habe diese Technik also durchaus schon.
Eine andere Sorge haben Lehmkemper und Prof. Schmieder allerdings auch noch: Die Besonderheiten von KI könnten eine Gesellschaft auch lähmen und den nötigen Fortschritt blockieren. Ein Anwalt, sagt Schmieder, kann plötzlich bei veränderten Bedingungen die Sichtweise wechseln und seine Position radikal ändern. Dazu sei die KI, die einen Anwalt ersetze, nach jetzigem Stand nicht in der Lage. Lehmkemper sagt es so: „Wenn wir vorankommen wollen, müssen wir auch den Mut haben, mit den Antworten auch mal anzuecken und über die gegebenen Grenzen hinaus zu gehen. Ich befürchte aber, dass die KI immer nur den Mainstream präsentiert.“ Das sei umso problematischer, je stärker sich KI selbst wieder auf alter KI aufbaue. Wenn sie Daten aufnehme, die ebenfalls künstlich erstellt worden sind, koppele sich das von den menschlichen Einflüssen irgendwann ab.
Das Risiko aber, so war man sich in der Diskussionsrunde bei den Unternehmerverbänden einig, will im Grunde niemand eingehen – bei aller verlockenden Effizienz.
