GRÜNER Gesetzentwurf: Chancen von Künstlicher Intelligenz (KI) für die Verwaltung nutzen, Rechtssicherheit und Transparenz schaffen

Der Fraktionsvorsitzende der GRÜNEN, Mathias Wagner, und die Sprecherin für Künstliche Intelligenz, Nina Eisenhardt:

„Wir legen heute das bundesweit erste KI-Gesetz für die Verwaltung vor, das an die europäische KI-Verordnung anknüpft und sie für die deutsche Verwaltung weiterdenkt. Denn wir wollen die Chancen von KI für die öffentliche Verwaltung nutzen. Durch den Einsatz von KI können Bearbeitungszeiten deutlich verkürzt, die Verwaltung bürgerfreundlicher gestaltet und Mitarbeitende von Routinetätigkeiten entlastet werden. Wir wollen einen Staat, der für Menschen in unserem Land einfach und effizient funktioniert. Gerade angesichts des Fachkräftemangels wird sich eine leistungsfähige öffentliche Verwaltung teilweise nur durch den Einsatz von KI aufrechterhalten lassen. Gleichzeitig braucht der Einsatz von KI einen klaren rechtlichen Rahmen und Transparenz, damit Bürgerinnen und Bürger weiter in staatliches Handeln vertrauen können. Gerade wenn sensible Daten von Bürgerinnen und Bürgern verarbeitet werden, muss klar sein, wie das erfolgt und wann nicht nur die Beamtin oder der Beamte, sondern auch eine KI am Werk ist.

Es wäre Aufgabe des angeblich so einmaligen Digitalministeriums gewesen, hier zu handeln. Stattdessen beschäftigt die Ministerin mittlerweile über 200 Menschen mit ihrer Öffentlichkeitsarbeit und irgendwelchem Schubidu. Zu den wirklichen digitalen Herausforderungen unserer Zeit kommt hingegen nichts. Weder geht es spürbar beim Breitband- und Mobilfunkausbau voran, noch gibt es nennenswerte Initiativen zur KI-Anwendung. Deshalb haben wir GRÜNEN jetzt die Initiative ergriffen, um die neuen Möglichkeiten für eine moderne öffentliche Verwaltung zu nutzen. Bisher wurde die Landesregierung von der Technik überholt, mit unserem KI-Gesetz für die hessische Verwaltung schließen wir zur Technik wieder auf.

Für eine bessere, effizientere und vor allem schnellere Verwaltung
Bürgerinnen und Bürger erwarten zurecht, dass das Land und die Kommunen ihre staatlichen Aufgaben und Dienstleistungen vollumfänglich erfüllen: sei es bei der digitalen Beantragung von Fördermitteln und Reisepässen oder der elektronischen Bearbeitung von Steuererklärungen oder Ummeldungen. Gleichzeitig leidet unsere Verwaltung massiv unter Fachkräftemangel. Durch den KI-Einsatz lassen sich Standardaufgaben automatisieren, während sich die menschlichen Beschäftigten auf die Bearbeitung von grundrechtssensiblen und komplexen Sachverhalten konzentrieren können. Bisher sieht das hessische Verwaltungsverfahrensgesetz vor, dass es eine gesetzliche Grundlage braucht, um einen Verwaltungsakt automatisiert zu erlassen. Dies erfolgt immer nur im Einzelfall im jeweiligen Gesetz. Das ist unnötig kompliziert und schlicht nicht mehr zeitgemäß.

Der GRÜNE Gesetzentwurf soll dagegen KI-Anwendungen und KI basierte Verwaltungsakte in der hessischen Verwaltung grundsätzlich ermöglichen. Damit schaffen wir eine generelle Rechtsgrundlage für die Anwendung einer bürgerfreundlichen KI in unseren Behörden. Hierfür setzt unser KI-Gesetz auch die EU-KI-Verordnung rechtssicher für die Verwaltung um. Denn statt ‚trial and error‘ brauchen auch die Beschäftigten der Verwaltung Rechtssicherheit, wann, wie und wofür sie KI in ihrer täglichen Arbeit einsetzen dürfen. Aber KI ist kein Allheilmittel. Wir GRÜNE wollen, dass sie nur dort eingesetzt wird, wo sie verbessert, also effizientere Arbeit und schnelleres Handeln ermöglicht. Anwendungsbeispiele sind die schnelle Beantwortung von wiederkehrenden Bürgeranfragen und der KI unterstützte Erlass von Verwaltungsakten, wie automatisierte Förderbescheide. Wir wollen in Hessen wieder eine Führungsrolle bei digitalen Themen einnehmen. So wurde in Hessen mit dem ersten Hessischen Datenschutzgesetz schon 1970 das weltweit erste Datenschutzgesetz geschaffen.

Rechtsstaatlichkeit auch beim KI-Einsatz gewährleisten

Der Eingriff in Grundrechte, wie in das Recht auf informationelle Selbstbestimmung, bedarf einer gesetzlichen Grundlage. Mit unserem Gesetzentwurf legen wir ein stabiles Fundament vor, auf das die Verwaltung in Hessen bauen kann. Wir wollen den Einsatz von KI in der Verwaltung fördern, aber auch rechtssicher regulieren. KI einsetzen ja, aber sobald grundrechtlich geschützte Rechte erheblich betroffen sind, immer nur auf kontrollierte Art

und Weise. Denn die hessischen Bürgerinnen und Bürger sollen transparent nachvollziehen können, wann KI eingesetzt wird und wie sie davon betroffen sind.

Transparenz über jede Anwendung

Gerade bei Entscheidungen, die Menschenleben stark beeinflussen können, dürfen wir die KI nicht unkontrolliert einsetzen. Vielfach ist über die diskriminierende Wirkung von Algorithmen berichtet worden, die teils Vorurteile ihrer Entwicklerinnen und Entwickler reproduzieren. Das sogenannte ‚confirmation bias‘ beschreibt das Problem, dass Menschen dazu neigen, von der KI berechnete Ergebnisse als wahr anzunehmen, ohne sie zu prüfen. Mit unserem Gesetzentwurf setzen wir dem das Transparenzregister entgegen. Die Forderungen nach so einem Register werden immer lauter und in den Niederlanden ist aufgrund eines KI-Skandals ein solches Register bereits Pflicht. Informationen über alle genutzten Systeme werden einfach und benutzerfreundlich zur Verfügung gestellt. Dabei wird nicht nur der Anwendungsbereich einer KI offengelegt, sondern auch der Algorithmus verständlich erklärt. Durch diese Transparenz schaffen wir Akzeptanz für die KI-Anwendung.

Rechtsschutz gewähren – Vertrauen stärken

Wer einen durch KI erstellten Bescheid erhält, soll die Möglichkeit haben, diese Entscheidung von einer natürlichen Person überprüfen zu lassen. Das Instrument der KI-Rüge, das wir mit unserem Gesetzentwurf einführen, soll die Akzeptanz, den Rechtschutz und die Transparenz für den KI-Einsatz in der Verwaltung erhöhen. Anders als die bereits vorhandene Möglichkeit, einen Widerspruch gegen einen Bescheid einzulegen, wird mit der KI-Rüge aber nicht direkt ein formelles Widerspruchsverfahren mit großem Verwaltungsaufwand eröffnet. Vielmehr ermöglicht die KI-Rüge einen niedrigschwelligen Rechtsschutz für alle, die auf KI beruhende Entscheidungen erhalten und Skepsis gegenüber dem KI-Einsatz haben, sich also eine ‚menschliche Entscheidung‘ wünschen. Die KI-Rüge ist dabei unbürokratisch und kostenfrei.“

Der Gesetzentwurf findet sich auch hier: https://t1p.de/y8inz

Pressestelle der Fraktion BÜNDNIS 90/DIE GRÜNEN im Hessischen Landtag
Pressesprecherin: Lisa Uphoff
Schlossplatz 1-3; 65183 Wiesbaden
Fon: 0611/350597; Fax: 0611/350601
Mail: presse-gruene@ltg.hessen.de
Web: http://www.gruene-hessen.de/landtag