SAS-StudieBehörden vertrauen KI weniger als die freie Wirtschaft

Behörden bringen Künstlicher Intelligenz im Branchenvergleich das geringste Vertrauen entgegen. Zu diesem Ergebnis kommt der aktuelle „Data and AI Impact Report: The New Economics of Trust“ von SAS. Die zugrunde liegende Befragung wurde vom Marktforschungs- und Analystenhaus IDC durchgeführt. Im sogenannten Trustworthiness-Index erreicht die öffentliche Verwaltung 55,5 von 100 möglichen Punkten. Die anderen untersuchten Branchen liegen zwischen 63,2 Punkten bei Versicherungen und 64,8 Punkten im Bereich Life Sciences. Bewertet wurden fünf Dimensionen: Datenqualität und Governance, Modell-Governance und Kontrolle, Erklärbarkeit und Fairness, Richtlinien für verantwortungsvolle KI sowie Auditierbarkeit und Verantwortlichkeit.

Viele Behörden noch in der Pilotphase

Die Ergebnisse zeigen zugleich, dass die öffentliche Verwaltung bei der praktischen Einführung von KI vergleichsweise am Anfang steht. 54 Prozent der befragten Behörden befinden sich noch in der Experimentier- oder Pilotphase – ein höherer Anteil als in jeder anderen untersuchten Branche. Lediglich zwölf Prozent verfügen über eine für KI optimierte Dateninfrastruktur. Gerade die Datenbasis könnte damit zu einem entscheidenden Faktor für die weitere Verbreitung von KI in der Verwaltung werden. Denn mit zunehmendem Einsatz steigen auch die Anforderungen an Nachvollziehbarkeit, Kontrolle und Verlässlichkeit der Systeme.

Als mit Abstand größtes Hindernis für vertrauenswürdige KI nennen 54 Prozent der Befragten aus Behörden den Datenschutz. Das ist angesichts der besonderen Rahmenbedingungen des öffentlichen Sektors von hoher Bedeutung: Verwaltungen arbeiten mit sensiblen Bürgerdaten und müssen Entscheidungen rechtlich nachvollziehbar und gegenüber Öffentlichkeit und Betroffenen verantworten können. KI-gestützte Entscheidungen können zudem unmittelbar Bereiche wie Sozialleistungen, Besteuerung, öffentliche Sicherheit oder Regulierung betreffen.

Investitionen in vertrauenswürdige KI steigen

Die Studie deutet zugleich darauf hin, dass Behörden auf diese Anforderungen reagieren. 86 Prozent erhöhen ihre Investitionen in Maßnahmen für vertrauenswürdige KI. Gleichzeitig erwarten 57 Prozent, ihre Ausgaben für die Implementierung von KI im kommenden Jahr um bis zu 20 Prozent zu steigern. Bemerkenswert ist dabei, dass in der öffentlichen Verwaltung der Aufbau von Strukturen für verantwortungsvolle KI und die eigentliche Einführung der Technologie annähernd parallel voranschreiten. Governance und Kontrolle werden damit nicht erst nachträglich ergänzt, sondern zunehmend als Bestandteil der KI-Einführung behandelt.

Ein wichtiges Thema bleibt die Nachvollziehbarkeit der Ergebnisse. Fehlende Erklärbarkeit ist laut Studie der häufigste Grund dafür, dass Beschäftigte KI-Ergebnisse verwerfen. Gerade mit zunehmender Autonomie von KI-Systemen gewinnt dieser Aspekt an Bedeutung.

Vertrauen entscheidet über die Nutzung

Das Problem betrifft nicht nur Behörden. Branchenübergreifend geben rund 97 Prozent der befragten Anwender an, Empfehlungen von KI-Systemen zumindest gelegentlich zu verwerfen. In 34,5 Prozent der Fälle geschieht dies aufgrund einer nicht nachvollziehbaren Herleitung – selbst wenn das Ergebnis grundsätzlich als korrekt eingeschätzt wird.

Zudem nimmt das Vertrauen offenbar mit zunehmender Autonomie der Systeme ab. Generativer KI wie ChatGPT, Gemini oder Claude vertrauen laut Studie 76 Prozent der Befragten. Bei KI-Agenten sind es dagegen 66 Prozent. Damit wird Vertrauen zu einem praktischen Faktor für die Wirtschaftlichkeit von KI. Werden Ergebnisse regelmäßig manuell überprüft oder korrigiert, können erhoffte Produktivitätsgewinne teilweise wieder verloren gehen.

Dateninfrastruktur bleibt Schwachstelle

Ein weiteres Hindernis ist die technische Grundlage. Branchenübergreifend verfügen lediglich 17,5 Prozent der befragten Organisationen über eine umfassend optimierte Dateninfrastruktur, die den Anforderungen von KI-Agenten entspricht. Nach Angaben der Studie erzielen Organisationen mit einer optimierten Datengrundlage deutlich häufiger hohe wirtschaftliche Erträge aus ihren KI-Projekten. Auch Investitionen in Governance, Datenqualität und Auditierbarkeit stehen demnach mit höheren Erfolgsquoten bei KI-Projekten in Zusammenhang.

Für die öffentliche Verwaltung lässt sich daraus vor allem eine strukturelle Herausforderung ableiten: Der Ausbau von KI-Anwendungen allein dürfte nicht ausreichen. Parallel müssen Datenqualität, technische Infrastruktur, Datenschutz, Governance und nachvollziehbare Kontrollmechanismen weiterentwickelt werden.

2.700 Entscheider aus 28 Ländern befragt

Die Ergebnisse zeigen damit ein Spannungsfeld der KI-Einführung im Public Sector. Einerseits liegt die Verwaltung beim Vertrauen und bei der technischen Reife hinter anderen Branchen. Andererseits investieren Behörden verstärkt in genau jene Strukturen, die einen kontrollierten und verantwortungsvollen Einsatz ermöglichen sollen. Für den „Data and AI Impact Report: The New Economics of Trust“ wurden weltweit rund 2.700 Entscheider aus 28 Ländern befragt, die in ihren Organisationen mit Daten- und KI-Initiativen befasst sind.