ÖFITNachnutzung generativer KI-Systeme

Welche Nachnutzungspotenziale bieten bereits bestehende generativer KI-Systeme für die öffentliche Verwaltung? Wie lassen sich diese vereinheitlichen? Diesen Fragen ging das Kompetenzzentrum Öffentliche IT (ÖFIT) im Auftrag des IT-Planungsrats nach, beziehungsweise für dessen Kompetenzteam KI im Schwerpunkt Datennutzung. Nun liegen die Ergebnisse der Untersuchung vor. Betrachtet wurden sieben unterschiedliche GenKI-Systeme, die Funktionen großer Sprachmodelle (LLMs) für verschiedene Bereiche der Verwaltung in Bund, Ländern und Kommunen verfügbar machen. Das ÖFIT verglich für die nun vorliegende Untersuchung die Anwendungen KIPITZ, PLAIN, LLMoin, NRW. Genius, F13, AIGude sowie MUCGPT systematisch auf Basis einer Referenzarchitektur anhand technischer, rechtlicher und organisatorischer Aspekte.

Einheitliche Plattform unrealistisch

Eine zentrale Erkenntnis ist laut ÖFIT, dass sich die Systeme in ihren Anwendungsbereichen ähneln, ebenso wie in ihren technische Grundlagen – eine solide Basis für Zusammenarbeit und Austausch zwischen den Projekten. Doch auch wenn die Nachnutzung und der Aufbau eines gemeinsamen KI-Ökosystems der Verwaltung erhebliche Vorteile bringen könnten, erscheint eine einheitliche Plattform für alle Akteure unrealistisch. Zum einen bedienen die Lösungen unterschiedliche Bedürfnisse, von der Bundesverwaltung über Landesbehörden bis hin zu Kommunen. Hinzu kommen die rasante Entwicklung im KI-Bereich, die Parallelentwicklungen unvermeidbar macht, sowie der fortgeschrittene Einsatz in vielen Einzelprojekten, deren Umstellung aufwendig wäre.

Referenzarchitektur als gemeinsamer Nenner

Ein realistisches Ziel wäre laut der Untersuchung aber die Entwicklung und Einigung auf eine gemeinsame Referenzarchitektur. Für den Aufbau eines solchen KI-Ökosystems empfiehlt die Vorstudie, die Bedarfe der Nutzergruppen systematisch zu erfassen und daraus ein Szenarien-Portfolio mit klaren Anforderungen zu entwickeln. Sie betont zudem die Notwendigkeit, Begriffe und Systemstrukturen zu präzisieren, um ein einheitliches Verständnis von Plattformen, Anwendungen und Infrastruktur zu gewährleisten. Compliance soll als Querschnittsthema behandelt werden, etwa durch praxisnahe Checklisten und Vorlagen. Gleichzeitig wird die Förderung konvergenter Architekturen vorgeschlagen: Microservices sollen nach einheitlichen Standards entwickelt und als Open-Source-Lösungen geteilt werden. Schließlich empfiehlt die Studie, die Positionierung zum Deutschland-Stack zu klären und die Bedarfe aus dem GenKI-Kontext aktiv in dessen Weiterentwicklung einzubringen.