IT-PlanungsratWie stabil ist das Fundament von KI?

Anwendungen wie ChatGPT oder Gemini basieren auf sogenannten Basismodellen, also großen KI-Systemen, die mit riesigen Datenmengen trainiert werden. Doch was, wenn die Datengrundlage dieser Modelle brüchig ist? Der im September erschienene Report Fragile Foundations. Hidden Risks of Generative AI der Bertelsmann Stiftung zeigt, dass viele Modelle auf unzureichend geprüften, verzerrten oder nicht repräsentativen Datensätzen beruhen. Das birgt Risiken für Fairness, Verlässlichkeit und Vertrauen. Gerade Verwaltungen stehen damit vor einer doppelten Herausforderung: Einerseits eröffnet generative KI neue Möglichkeiten, Arbeitsabläufe zu vereinfachen und den Zugang zu Informationen zu verbessern, etwa durch Chatbots in Bürgerservices. Andererseits muss sichergestellt werden, dass diese Systeme keine systematischen Verzerrungen oder Fehlinformationen weitergeben.

Zentrale Erkenntnisse des Bertelsmann-Reports stellt die Politikwissenschaftlerin und KI-Expertin Teresa Staiger am 25. November 2025 in einem Online-Vortrag „Wie stabil ist das Fundament von KI? Was der Blick in die Basis generativer Systeme für die Verwaltung bedeutet“ vor – und lädt dazu ein, über Chancen und Grenzen generativer KI in der Verwaltung zu diskutieren. Der Vortrag findet von 12:10 bis 13:00 Uhr auf Cisco Webex statt, eine Anmeldung ist nicht erforderlich (direkt zum Vortrag; Rückfragen via E-Mail an: kompetenzteam.ki@sk.hamburg.de). Als Projektmanagerin im Projekt reframe[Tech] der Bertelsmann Stiftung verantwortete Staiger die strategische Ausrichtung des Themenfeldes zur verantwortungsvollen Entwicklung und Nutzung generativer KI, zuvor leitete sie ein Multistakeholder-Projekt zur Identifikation sinnvoller KI-Anwendungsideen in der Wohlfahrt. Seit drei Jahren publiziert sie außerdem den Newsletter Erlesenes, der zweiwöchentlich eine kuratierte Auswahl an Artikeln, Studien und aktuellen Debatten rund um KI und Gemeinwohl bietet.