BundUmgang mit KI

Zum dritten Mal nach 2022 und 2023 befragte die Gruppe Die Linke im Bundestag die Bundesregierung nach dem Einsatz von Künstlicher Intelligenz (KI) im Bund und zu deren Förderung. Nun liegt die Antwort der Bundesregierung auf die Kleine Anfrage vom Juni 2024 vor, ebenso wie eine Auswertung und Einordnung derselben durch Die Linke. Demnach ergibt sich aus der Antwort der Ampelkoalition ein starker Zuwachs der KI-Anwendungen beim Bund sowie immense verfügbare finanzielle Mittel in Höhe von über 2,5 Milliarden Euro für KI-Vorhaben. Gleichzeitig fehlten allerdings Supportstrukturen, zudem mangle es an Kompetenzen, Standards und verbindlichen Prozessen – „obwohl alles dies seit Jahren angekündigt wurde“, konstatiert Anke Domscheit-Berg, die digitalpolitische Sprecherin der Gruppe Die Linke im Bundestag. Auch Ankündigungen der Ampel zur Nachhaltigkeit beim Einsatz von KI seien flächendeckend nicht eingehalten worden. „Der Einsatz von KI im Bund hat sich von über 100 auf über 212 Anwendungen verdoppelt und viele der Vorhaben eignen sich sogar, um die Arbeit in Behörden sinnvoll zu unterstützen“, so Domscheit-Berg. Der weiter bestehende Mangel an Kompetenzen, Standards und Strukturen sei die „Schattenseite“ dieses Innovationsschubes.

Grundlegende Strukturen fehlen – mit gravierenden Folgen

Innerhalb der Verwaltung müsse sichergestellt werden, dass es Standardprozesse und -Werkzeuge gibt, die vor jedem KI-Einsatz in jeder Behörde genutzt werden. Damit könne festgestellt werden, ob Grundrechte berührt werden oder Diskriminierungspotenziale bestehen, wie hoch negative Effekte für das Klima sind, ob die zugrunde liegende Datenbasis legitim ist oder was der erwartete Nutzen ist und wie man diesen messen möchte. Derzeit erfolge eine Bewertung potenzieller Risiken aber „ohne Plan“ oder gar nicht, so die Gruppe Die Linke im Bundestag.

Trotz jahrelanger Planungen gebe es immer noch keine zentrale Koordinierung, keine strategische Steuerung und keinerlei verbindliche Prozesse und Standards, stellt Domscheit-Berg fest. Weder das angekündigte Beratungszentrum für Künstliche Intelligenz noch die Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben gebe es. Damit fehle es auch an Koordinierung, Kompetenzvermittlung und Wissenstransfer. Die Folge: Doppelentwicklungen häuften sich. Auch würden beispielsweise für KI-gestützte Textdienste „mal Microsoft Co-Pilot, mal ChatGPT“ genutzt, obwohl es für diesen Zweck inzwischen vertrauenswürdigere Angebote auf der bundeseigenen Plattform KIPITZ des ITZBund gebe.

Glaubwürdigkeit steht auf dem Spiel

Fehlende oder ignorierte Mindeststandards beeinträchtigen das Vertrauen in Regierungshandeln und in die Technologie Künstliche Intelligenz, mahnt Domscheit-Berg. Wenn selbst bei grundrechtssensiblen Anwendungen der Sicherheitsbehörden mit erhöhtem Missbrauchs- und Diskriminierungspotenzial – etwa bei der Sichtung massenhafter Videodaten (Bundespolizei) oder bei Gesichtserkennungssystemen auf der Basis von KI (BKA) – keine Standards für Risikobewertungen und Evaluationen gelten und auch die für Sicherheitsorgane geplante Algorithmenbewertungsstelle weiterhin nicht existiere, „muss das jeden beunruhigen“.

Auch der Klimaschutz werde beim Praxiseinsatz von KI stark vernachlässigt, trotz vieler gegebener Versprechen. So sehe die Digitalstrategie des Bundes zwar „Nachhaltigkeit by Design“ vor – bei drei Viertel der 212 KI-Anwendungen im Bund spielten Nachhaltigkeitskriterien jedoch keinerlei Rolle; nur in fünf Fällen seien diese umfassend betrachtet worden. Daraufhin werden auch Unternehmen sich fragen, warum sie selbst nachhaltiger werden sollen, wenn es der Staat nicht macht, vermutet Domscheit-Berg. Das Desinteresse in Nachhaltigkeitsfragen spiegle sich auch in der Vergabe von Fördermitteln: Bei 98 Prozent der vom Bund seit Januar 2023 geförderten KI-Forschungs- und -Pilotprojekte war Nachhaltigkeit keine Förderbedingung; bei über 80 Prozent der geförderten KI-Projekte war sie „nicht einmal ein Förderkriterium, sondern spielte einfach überhaupt keine Rolle“. Dahingehend sei die Vergabe von Millionen Fördergeldern „völlig verantwortungslos“ erfolgt.

Künstliche Intelligenz im Bund einzusetzen oder finanziell zu fördern, könne eine gute Sache sein – aber nur, wenn man dafür einen Plan und die notwendigen Strukturen habe, das Gemeinwohl priorisiere und hohe Standards erfülle. Diesen Anspruch erfüllt die Ampel bisher nicht, so Domscheit-Bergs Fazit.