Künstliche IntelligenzMangel an Risikobewusstsein

[30.05.2023] Wie steht es um den Einsatz von KI in Bundesbehörden? Die Linksfraktion hat dazu eine Kleine Anfrage gestellt. Das ernüchternde Fazit: KI wird in der Bundesverwaltung zwar zunehmend genutzt, aber es gibt Kompetenzlücken, ein eklatant mangelndes Risikobewusstsein und strukturelle Defizite.

Anwendungen Künstlicher Intelligenz prägen die öffentliche Debatte, seit ChatGPT und andere generative KI-Modelle erahnen lassen, welche Potenziale in dieser Technologie stecken und wie wichtig Transparenz und Nachvollziehbarkeit bei ihrem Einsatz sind. Bereits im vergangenen Jahr hatte die digitalpolitische Sprecherin der Linken, Anke Domscheit-Berg, eine Kleine Anfrage zum Einsatz von KI-Systemen in der Bundesverwaltung gestellt. In erweiterter Form wurde diese Kleine Anfrage 2023 von der Linksfraktion erneut gestellt. Die Linksfraktion und ihre digitalpolitische Sprecherin nehmen nun ausführlich Stellung zur Antwort der Bundesregierung.
Die Bundesregierung nutzt nach eigenen Angaben KI-Systeme in mehr als 100 Fällen in zwölf Bundesministerien und deren nachgeordneten Behörden. Gleichzeitig fördert der Bund 446 Forschungsprojekte, 58 Pilotprojekte und zehn Reallabore rund um Künstliche Intelligenz. Für die Umsetzung der KI-Strategie werden bis 2025 insgesamt 3,5 Milliarden Euro zusätzliche Mittel bereitgestellt, von denen 2,78 Milliarden Euro bereits verausgabt oder gebunden sind.

Grundlagen und Strukturen fehlen

Zwar betone die Bundesregierung immer wieder, wie wichtig es sei, dass KI wertebasiert, transparent und nachvollziehbar eingesetzt werde – gelebt werde in der Bundesregierung aber das Gegenteil, so Domscheit-Berg. Es würden immer mehr KI-Systeme eingesetzt, ohne die notwendigen Grundlagen dafür zu schaffen. Die Antwort der Ampel-Koalition offenbare, dass ethische Standards nicht eingehalten würden, es gebe keine allgemeinverbindlichen Vorgaben zur Risikobewertung von KI-Systemen, kein dafür vorgegebenes Risikoklassenmodell, obwohl dies bereits für 2022 angekündigt worden sei.
Einige Behörden hätten gezeigt, dass sie das Thema noch nicht einmal verstanden hätten. Dies mag daran liegen, dass die bereits vor 13 Monaten angekündigten Unterstützungsstrukturen – wie die Einrichtung eines Beratungs- und Evaluierungszentrums für Künstliche Intelligenz und eines Kompetenzzentrums für KI in der öffentlichen Verwaltung – immer noch fehlen.

Kontrolle in grundrechtssensiblen Bereichen fehlt

Als besonders problematisch sieht Domscheit-Berg den Umgang der Bundesregierung mit dem Einsatz von KI-Systemen in grundrechtssensiblen Bereichen wie Strafverfolgung, Ermittlungen, Gefahrenabwehr und Nachrichtendiensten, zu dem sie 2023 keine Informationen erhalten habe. Damit fehle es in diesem Hochrisikobereich an parlamentarischer Kontrolle. Auch ein internes Sicherheitsnetz gebe es nicht, da die lange angekündigte Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben immer noch nicht existiere.
Mit diesem dilettantischen und gefährlichen Vorgehen, so Domscheit-Bergs Fazit, werde die Bundesregierung kaum Vertrauen und Akzeptanz für KI in der Gesellschaft erreichen. Eine „löbliche Ausnahme“ bilde lediglich der Geschäftsbereich des Bundesministeriums für Arbeit und Soziales (BMAS), wo man sich kompetent mit den Prozessen rund um den Einsatz von KI auseinandergesetzt habe.





Weitere Meldungen und Beiträge aus dem Bereich: Politik
Thüringer Landes-CIO Hartmut Schubert im dunklen Anzug am Rednerpult, im Hintergrund eine blaue Wand.

Thüringen: Rückblick und Ausblick

[12.06.2024] Thüringens Landes-CIO Hartmut Schubert informiert über den Stand von E-Government und IT-Sicherheit im Freistaat. Er sieht gute Grundlagen für eine komplett digitalisierte Verwaltung und zeichnet mit der neuen E-Government-Strategie eine optimistische Vision für die Digitalisierung der Thüringer Verwaltung. mehr...

Sachsen: Auf dem Weg zum Digitalpionier

[12.06.2024] 
Sachsen kommt bei der Umsetzung seiner Digitalstrategie gut voran. Darüber informierte die CDO des Freistaats, Staatssekretärin Ines Fröhlich, die mehr als 350 Teilnehmenden aus Wirtschaft, Wissenschaft, Zivilgesellschaft, Verwaltung und Politik auf dem „forum sachsen digital“. mehr...

Gruppenfoto der Mitglieder des IT-Standardisierungsboars; Außenaufnahme, Sonne

IT-Planungsrat: Standardisierungsboard nimmt Arbeit auf

[10.06.2024] Gemeinsame IT-Standards bilden einen wichtigen Grundstein der Verwaltungsdigitalisierung. Mit dem Föderalen IT-Standardisierungsboard hat nun ein neues Gremium des IT-Planungsrats seine Arbeit aufgenommen. Dieses soll dazu beitragen, die Standardisierungsagenda zielgerichtet und zügiger als bisher umzusetzen. mehr...

Das KI-genertierte Bild zeigt ein futuristisches Büro in dem verschiedene Arten von Künstlicher Intelligenz integriert sind.

EU-Kommission: KI-Amt gegründet

[06.06.2024] Ein neues KI-Amt der EU-Kommission soll sicherstellen, dass Künstliche Intelligenz so entwickelt und eingesetzt wird, dass der gesellschaftliche und wirtschaftliche Nutzen maximiert und die Risiken minimiert werden. mehr...

Das Bild zeigt die Startseite des Bayern-Portals mit der Anmeldung zur BayernID.

Bayern: BayernID knackt die Million

[03.06.2024] Mit der BayernID hat der Freistaat einen wichtigen Meilenstein erreicht: Über eine Million aktive Accounts und ein jährliches Wachstum von 40 Prozent. Für Digitalminister Fabian Mehring ist die BayernID der Turbo für die digitale Verwaltung. mehr...

Das Bild zeigt ein Muster eines elektronischen Aufenthaltstitels im Scheckkartenformat.

OZG-Dienste: Rückkanal beim Aufenthaltstitel

[27.05.2024] Die OZG-Dienste „Aufenthaltstitel“ und „Aufenthaltskarten und aufenthaltsrelevante Bescheinigungen“ verfügen jetzt über einen neuen strukturierten Rückkanal. Dieser ermöglicht eine direkte Kommunikation zwischen Antragstellenden und Sachbearbeitenden. mehr...

Historischer Saal mit heller, freundlicher Ausgestaltung; zahlreiche förmlich gekleidete Personen sitzen debattierend an langen Tischen.

Bürokratieabbau: Rechtsverordnungen werden entschlackt

[27.05.2024] Eine neue Verordnung soll dazu beitragen, hemmende Bürokratie in Rechtsverordnungen abzubauen. Als Teil des Meseberger Entlastungspakets hat das Bundesministerium der Justiz die Bürokratieentlastungsverordnung federführend erarbeitet und legt nun den Referentenentwurf vor. mehr...

Drei EU-Flaggen vor blauem Himmel wehen im Wind, im Hintergrund ein modernes Gebäude und blauer Himmel.

Bitkom: AI Act beschlossen – noch vieles offen

[22.05.2024] Das gestern im EU-Ministerrat beschlossene KI-Gesetz – der EU AI Act – ist die erste umfassende Verordnung über Künstliche Intelligenz durch eine wichtige Regulierungsbehörde weltweit. Aus Sicht des Bitkom ist dies aber erst der Anfang: Bei der Umsetzung in Deutschland und auch seitens der EU sei noch viel zu tun. mehr...

Wireframe-Fragik in Blautönen vor Schwarz: Paragrafenzeichen und Waage mit zwei Waagschalen.

Gesetzgebung: Digitalcheck für Bayern

[21.05.2024] In Bayern soll ein Digitalcheck für alle neuen Gesetzesnormen eingeführt werden. Eine entsprechende ressortübergreifende Servicestelle wurde im Staatsministerium für Digitales eingerichtet, diese soll bei der Erstellung digitaltauglicher Normen beraten. mehr...

Porträtaufnahme von Daniel Sieveke im dunklen Anzug vor blauem Hintergrund.

Nordrhein-Westfalen: Digitalisierung neu aufgestellt

[16.05.2024] Das Land Nordrhein-Westfalen hat den Staatssekretär im Ministerium für Heimat, Kommunales, Bau und Digitalisierung, Daniel Sieveke, als neuen CIO benannt. Zudem soll in dem Land zukünftig eine stärkere Arbeitsteilung zwischen dem technisch zuständigen Ministerium sowie den fachlich und rechtlich zuständigen Häusern geben. mehr...

Das Bild zeigt Volker Wissing, Bundesminister für Digitales und Verkehr.

Digitalstrategie: Deutschland wird digitaler

[15.05.2024] Ein Zwischenbericht zur Digitalstrategie der Bundesregierung zeigt Fortschritte. Laut Digitalminister Volker Wissing ist Deutschland deutlich digitaler geworden. mehr...

Das Bild zeigt Ministerialdirektor Elmar Steinbacher, Leitende Oberstaatsanwältin Tomke Beddies und Ministerin der Justiz und für Migration Marion Gentges

Baden-Württemberg: Chefin für Cybercrime-Zentrum

[14.05.2024] Die baden-württembergische Justizministerin Marion Gentges hat Ministerialrätin Tomke Beddies zur Leiterin des neuen Cybercrime-Zentrums Baden-Württemberg ernannt. mehr...

Das Bild zeigt die derzeitige P Bundesratspräsidentin Manuela Schwesig.

OZG 2.0: Brandbrief an Schwesig

[10.05.2024] In einem offenen Brief an Bundesratspräsidentin Manuela Schwesig fordern die Geschäftsführer von fünf mittelständischen IT-Unternehmen mehr Tempo bei der Digitalisierung der öffentlichen Verwaltung in Deutschland. Sie kritisieren insbesondere die Verzögerungen beim OZG 2.0. mehr...

Das Bild zeigt Louisa Specht-Riemenschneider, die neue Bundesbeauftragte für den Datenschutz und die Informationsfreiheit werden soll.

BfDI: Specht-Riemenschneider nominiert

[10.05.2024] Das Bundeskabinett hat dem Bundestag Louisa Specht-Riemenschneider als neue Bundesbeauftragte für den Datenschutz und die Informationsfreiheit vorgeschlagen. Sie soll die Nachfolge von Ulrich Kelber antreten, der sein Amt nur noch kommissarisch ausübt. mehr...

Das Bild zeigt des Schriftzug fake news.

Bayern: Kampf gegen Fake News

[08.05.2024] In der „Bayern-Allianz gegen Desinformation“ arbeiten staatliche Stellen und IT-Unternehmen zusammen, um Falschmeldungen im Netz entgegenzuwirken. Mit dabei sind die Unternehmen Adobe, Google, Meta, Microsoft, IBM, Siemens und O2 Telefónica. Die Initiative wurde vom Digitalministerium und vom Innenministerium des Freistaats ins Leben gerufen. mehr...