eGovernment-WettbewerbNRWGenius auf Rang zwei

NRW.Genius entwickelt sich vom KI-Assistenten für Verwaltungsbeschäftigte zur zentralen Infrastruktur für den Einsatz künstlicher Intelligenz in der nordrhein-westfälischen Verwaltung. Mit dem Projekt erreichte der Landesbetrieb IT.NRW beim eGovernment-Wettbewerb den zweiten Platz im Bereich „Digitalisierungsschub durch KI und moderne Infrastruktur“ und teilt sich die Platzierung mit dem  Projekt BW-Empfangsclient des baden-württembergischen Wirtschaftsministeriums (wir berichteten). Die beim Wettbewerb vorgestellten Pläne zeigen, wohin die Entwicklung gehen soll: Unter dem Ansatz AI as a Service (AIaaS) sollen künftig auch Fachverfahren über eine standardisierte Schnittstelle auf unterschiedliche KI-Modelle zugreifen können. 

Ausgangspunkt ist die stark fragmentierte IT-Landschaft. Nach Angaben von IT.NRW existieren allein in Nordrhein-Westfalen mehr als 1.000 unterschiedliche Fachverfahren. KI-Funktionen jeweils separat in diese Systeme zu integrieren, würde entsprechend viele Einzellösungen erfordern. NRW.Genius soll deshalb von einer eigenständigen Anwendung zu einer zentralen Plattform weiterentwickelt werden, die KI-Dienste für unterschiedliche Anwendungen bereitstellt.

Bereits rund 13.500 Nutzende

NRW.Genius ist bereits breit in der Landesverwaltung im Einsatz. Laut der Präsentation auf dem eGovernment-Wettbewerb sind rund 13.500 Nutzende aus 65 Dienststellen angebunden, darunter Ressorts, Behörden und Anstalten öffentlichen Rechts. Hinzu kommen drei Pilotkommunen. Bis Juli 2026 wurden rund 220.000 Anfragen über das System verarbeitet, heißt es in der Präsentation.

Die Anwendung unterstützt Beschäftigte unter anderem beim Befragen einzelner Dokumente, bei der Recherche über Dokumentensammlungen, beim Zusammenfassen und Generieren von Texten sowie über einen freien Chat. Dienststellen können zudem eigene Datenkollektionen bereitstellen, die NRW.Genius als Wissensbasis verwendet. Ein wichtiges Merkmal ist der Betrieb von Sprachmodellen in der Infrastruktur von IT.NRW. Dadurch sollen auch vertrauliche und personenbezogene Inhalte verarbeitet werden können. Gleichzeitig ist NRW.Genius nicht auf ein einzelnes Sprachmodell festgelegt.

KI für Fachverfahren

Mit AIaaS geht IT.NRW nun einen Schritt weiter. Statt ausschließlich eine zentrale KI-Anwendung für Beschäftigte bereitzustellen, soll eine gemeinsame technische KI-Schicht für unterschiedliche Fachverfahren entstehen. Anwendungen könnten KI-Leistungen über eine einheitliche API beziehen. IT.NRW übernimmt dabei die Bereitstellung und den Betrieb der KI-Infrastruktur und der Modelle. Hinzu kommen intelligentes Routing, Prompt-Orchestrierung, Monitoring, Logging sowie Performance- und Kostensteuerung. Die Fachverfahren müssen damit keine eigene KI-Infrastruktur aufbauen. Fachlogik, Entscheidungen und die Verantwortung für den jeweiligen Anwendungsfall verbleiben dagegen beim Fachverfahren.

Als mögliche Einsatzgebiete nennt IT.NRW Antragsbearbeitung, Inhaltsklassifikation und Informationsextraktion. Gerade dort sieht der Landesbetrieb derzeit weniger den fehlenden Bedarf als vielmehr Schutzbedarf, Compliance und technische Komplexität als Hindernisse für den KI-Einsatz.

Schutzbedarf steuert die KI-Nutzung

Ein zentraler Bestandteil des Konzepts ist deshalb das automatische Routing anhand des Schutzbedarfs. Die Präsentation unterscheidet drei Stufen: Bei niedrigem Schutzbedarf ist die Verarbeitung in einer Public-Cloud-Umgebung vorgesehen, bei normalem Schutzbedarf in einer deutschen beziehungsweise souveränen Cloud und bei hohem Schutzbedarf in einer besonders gesicherten Umgebung.

Anfragen aus den Fachverfahren sollen automatisch an die geeignete Verarbeitungsumgebung geleitet werden. Entwicklungsteams definieren dafür den Schutzbedarf, während AIaaS Routing, Betrieb und Skalierung übernimmt. Damit sollen regulatorische und sicherheitstechnische Anforderungen zentral berücksichtigt werden.

Vom KI-Assistenten zur Infrastruktur

Der entscheidende Entwicklungsschritt liegt damit im Plattformansatz. IT.NRW vergleicht AIaaS in der Präsentation mit dem Glasfaserausbau: Der Landesbetrieb stellt gewissermaßen die Infrastruktur „bis zum Haus“ bereit, während Integration, Fachlogik und konkrete Nutzung im Verantwortungsbereich der jeweiligen Fachverfahren bleiben. Auch unterschiedliche Modellklassen sollen zentral angeboten werden können. Der skizzierte Modellkatalog umfasst Sprachmodelle für Textverarbeitung und Generierung, Embedding-Modelle für Recherche und Retrieval, Modelle für Programmieraufgaben sowie Lösungen zur Dokumentenverarbeitung.

Damit adressiert IT.NRW ein grundsätzliches Problem beim KI-Einsatz im Public Sector: Müssen Behörden und Fachverfahrenshersteller für jeden Anwendungsfall Infrastruktur, Modelle, Sicherheitsmechanismen und Governance neu aufbauen, drohen neue KI-Silos. Eine gemeinsame Service-Plattform soll dagegen einmal aufgebaute technische und organisatorische Komponenten für zahlreiche Verfahren nutzbar machen.

KI-Baukasten für die Verwaltungs-IT

NRW.Genius entwickelt sich so von einem generativen KI-Assistenten zu einem KI-Baukasten für die Verwaltungs-IT. Dabei soll auch die Zusammenarbeit über die Landesverwaltung hinaus eine Rolle spielen. Die Präsentation nennt Kommunen in Nordrhein-Westfalen, ein Fraunhofer-Institut und den KI-Zukunftsbund als Partner des Netzwerks.