HamburgKI-Pilotprojekt LLMoin

Seit der Veröffentlichung von ChatGPT sind große Sprachmodelle, so genannte Large Language Models (LLMs), in aller Munde. Sie können KI-basiert lange Texte in Sekundenschnelle zusammenfassen, unterstützen bei der Recherche und bei der Texterstellung. Das Hamburger Pilotprojekt LLMoin will zeigen, wie Large Language Models innerhalb der öffentlichen Verwaltung genutzt werden können und welche Funktionen die Mitarbeitenden tatsächlich annehmen und benötigen. Wie die Senatskanzlei berichtet, wolle die Stadt Hamburg außerdem erproben, welche technischen und organisatorischen Voraussetzungen notwendig sind, damit die Technologie künftig einer großen Anzahl an Mitarbeitenden zur Verfügung gestellt werden kann. „Mit LLMoin kommen wir in der Schlüsseltechnologie der Large Language Models von der Theorie in die Praxis und sammeln frühzeitig wertvolle Erfahrungen zur Anwendbarkeit in der Verwaltung. Was wir im Rahmen dieses Projektes lernen, wird uns helfen unser zukünftiges Handeln in diesem Feld an den tatsächlichen Bedürfnissen der Mitarbeiterinnen und Mitarbeiter auszurichten“, sagt Christian Pfromm, CDO der Stadt Hamburg.
Das Vorhaben wird als innovativer KI-Pilot im Rahmen des InnoTecHH Fonds umgesetzt. Dieser wurde gegründet, um Hamburger Behörden dabei zu unterstützen, den Einsatz innovativer Technologien zu erproben (wir berichteten).

Qualifizierung für Mitarbeitende

Das Pilotprojekt LLMoin ist ein integrierter Textassistent mit vier Funktionen für die verwaltungsinterne Anwendung. Es basiert auf dem in Deutschland entwickelten und gehosteten Sprachmodell Luminous von Aleph Alpha. Die Front-End- und Datenverarbeitung wurde eigens für Hamburg entwickelt. Den Testgruppen stehen die Funktionen Zusammenfassung, Recherche-Assistent, Textgenerierung und der Expertenmodus zur Verfügung. Beim Expertenmodus können die Testerinnen und Tester nach dem Vorbild von ChatGPT ohne weitere Einstellungsmöglichkeiten frei über selbst definierte Eingaben – die so genannten Prompts – mit dem System interagieren.
Ergänzt wird LLMoin um weitere Aktivitäten rund um die Erschließung der LLM-Technologie. Essenziell ist beispielsweise, dass Mitarbeitende generell an die Interaktion mit den Modellen (Prompting) herangeführt werden. Zu diesem Zweck wurde unter anderem ein Prompt-a-thon in Kooperation mit der Universität Hamburg im Rahmen einer verwaltungsinternen Tagung erprobt. Dabei konnten Mitarbeitende nach einer Einführung zuvor definierte Problemstellungen mithilfe von ChatGPT lösen.