Künstliche IntelligenzMangel an Risikobewusstsein

Anwendungen Künstlicher Intelligenz prägen die öffentliche Debatte, seit ChatGPT und andere generative KI-Modelle erahnen lassen, welche Potenziale in dieser Technologie stecken und wie wichtig Transparenz und Nachvollziehbarkeit bei ihrem Einsatz sind. Bereits im vergangenen Jahr hatte die digitalpolitische Sprecherin der Linken, Anke Domscheit-Berg, eine Kleine Anfrage zum Einsatz von KI-Systemen in der Bundesverwaltung gestellt. In erweiterter Form wurde diese Kleine Anfrage 2023 von der Linksfraktion erneut gestellt. Die Linksfraktion und ihre digitalpolitische Sprecherin nehmen nun ausführlich Stellung zur Antwort der Bundesregierung.
Die Bundesregierung nutzt nach eigenen Angaben KI-Systeme in mehr als 100 Fällen in zwölf Bundesministerien und deren nachgeordneten Behörden. Gleichzeitig fördert der Bund 446 Forschungsprojekte, 58 Pilotprojekte und zehn Reallabore rund um Künstliche Intelligenz. Für die Umsetzung der KI-Strategie werden bis 2025 insgesamt 3,5 Milliarden Euro zusätzliche Mittel bereitgestellt, von denen 2,78 Milliarden Euro bereits verausgabt oder gebunden sind.

Grundlagen und Strukturen fehlen

Zwar betone die Bundesregierung immer wieder, wie wichtig es sei, dass KI wertebasiert, transparent und nachvollziehbar eingesetzt werde – gelebt werde in der Bundesregierung aber das Gegenteil, so Domscheit-Berg. Es würden immer mehr KI-Systeme eingesetzt, ohne die notwendigen Grundlagen dafür zu schaffen. Die Antwort der Ampel-Koalition offenbare, dass ethische Standards nicht eingehalten würden, es gebe keine allgemeinverbindlichen Vorgaben zur Risikobewertung von KI-Systemen, kein dafür vorgegebenes Risikoklassenmodell, obwohl dies bereits für 2022 angekündigt worden sei.
Einige Behörden hätten gezeigt, dass sie das Thema noch nicht einmal verstanden hätten. Dies mag daran liegen, dass die bereits vor 13 Monaten angekündigten Unterstützungsstrukturen – wie die Einrichtung eines Beratungs- und Evaluierungszentrums für Künstliche Intelligenz und eines Kompetenzzentrums für KI in der öffentlichen Verwaltung – immer noch fehlen.

Kontrolle in grundrechtssensiblen Bereichen fehlt

Als besonders problematisch sieht Domscheit-Berg den Umgang der Bundesregierung mit dem Einsatz von KI-Systemen in grundrechtssensiblen Bereichen wie Strafverfolgung, Ermittlungen, Gefahrenabwehr und Nachrichtendiensten, zu dem sie 2023 keine Informationen erhalten habe. Damit fehle es in diesem Hochrisikobereich an parlamentarischer Kontrolle. Auch ein internes Sicherheitsnetz gebe es nicht, da die lange angekündigte Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben immer noch nicht existiere.
Mit diesem dilettantischen und gefährlichen Vorgehen, so Domscheit-Bergs Fazit, werde die Bundesregierung kaum Vertrauen und Akzeptanz für KI in der Gesellschaft erreichen. Eine „löbliche Ausnahme“ bilde lediglich der Geschäftsbereich des Bundesministeriums für Arbeit und Soziales (BMAS), wo man sich kompetent mit den Prozessen rund um den Einsatz von KI auseinandergesetzt habe.