HessenGrüner Gesetzentwurf für KI in der Verwaltung

Die Fraktion Bündnis 90/Die Grünen im Hessischen Landtag haben den Entwurf für ein KI-Gesetz vorgelegt, das eine zuverlässige Rechtsgrundlage für die Anwendung einer bürgerfreundlichen KI in der hessischen Verwaltung bilden soll. Auf diese Weise soll für die Beschäftigten in der Verwaltung Rechtssicherheit geschaffen werden. „Wir wollen einen Staat, der für Menschen in unserem Land einfach und effizient funktioniert. Gerade angesichts des Fachkräftemangels wird sich eine leistungsfähige öffentliche Verwaltung teilweise nur durch den Einsatz von KI aufrechterhalten lassen. Gleichzeitig braucht der Einsatz von KI einen klaren rechtlichen Rahmen und Transparenz, damit Bürgerinnen und Bürger weiter in staatliches Handeln vertrauen können. Gerade, wenn sensible Daten von Bürgerinnen und Bürgern verarbeitet werden, muss klar sein, wie das erfolgt und wann nicht nur die Beamtin oder der Beamte, sondern auch eine KI am Werk ist“, werden der Fraktionsvorsitzende Mathias Wagner und die Sprecherin für Künstliche Intelligenz, Nina Eisenhardt, in einer Pressemeldung der hessischen Grünen zitiert.

Bisherige Regelungen zu kompliziert

Für eine bürgerfreundliche Verwaltung führe der Weg an der Automatisierung von Standardaufgaben nicht mehr vorbei. Dies sei Grundlage dafür, dass sich menschliche Beschäftigte wieder mehr auf die Bearbeitung von grundrechtssensiblen und komplexen Sachverhalten konzentrieren könnten. Bisher sieht das hessische Verwaltungsverfahrensgesetz allerdings vor, dass es eine gesetzliche Grundlage brauche, um einen Verwaltungsakt automatisiert zu erlassen – und dies erfolgt immer nur im Einzelfall im jeweiligen Gesetz. Das sei unnötig kompliziert und schlicht nicht mehr zeitgemäß, so die hessischen Grünen. Der neue Gesetzentwurf soll nun KI-Anwendungen und KI-basierte Verwaltungsakte in der hessischen Verwaltung grundsätzlich ermöglichen. „Damit schaffen wir eine generelle Rechtsgrundlage für die Anwendung einer bürgerfreundlichen KI in unseren Behörden. Hierfür setzt unser KI-Gesetz auch die EU-KI-Verordnung rechtssicher für die Verwaltung um. Denn statt ‚trial and error‘ brauchen auch die Beschäftigten der Verwaltung Rechtssicherheit, wann, wie und wofür sie KI in ihrer täglichen Arbeit einsetzen dürfen“, so Wagner und Eisenhardt.

Transparenz schafft Akzeptanz

Der Entwurf nimmt auch Datenschutz und Transparenzpflichten in den Blick. Sobald grundrechtlich geschützte Rechte erheblich betroffen sind, soll der KI-Einsatz nur auf kontrollierte Art und Weise erfolgen, damit Bürgerinnen und Bürger transparent nachvollziehen können, wann KI eingesetzt wird und wie sie davon betroffen sind. Um der mitunter diskriminierenden Wirkung von Algorithmen (confirmation bias) entgegenzuwirken, schlagen die Grünen ein Transparenzregister nach niederländischem Vorbild vor, das Informationen über alle genutzten Systeme benutzerfreundlich zur Verfügung stellt. Dabei werde nicht nur der Anwendungsbereich einer KI offengelegt, sondern auch der Algorithmus verständlich erklärt. So ließe sich auch Akzeptanz für die KI-Anwendung schaffen. Zudem führt der Gesetzentwurf das Instrument der KI-Rüge ein. Anders als beim klassischen Widerspruch gegen einen Bescheid soll die KI-Rüge kein formelles Widerspruchsverfahren eröffnen, das mit großem Verwaltungsaufwand verbunden ist. Vielmehr soll es sich um eine unbürokratische Möglichkeit handeln, KI-basierte Entscheidungen von einer natürlichen Person überprüfen zu lassen. Auch damit sollen die Akzeptanz, der Rechtschutz und die Transparenz für den KI-Einsatz in der Verwaltung erhöht werden.