InterviewMit KI gegen Bürokratie

Frau Ministerin Pakosta, eine wesentliche Grundlage für Estlands erfolgreiche Verwaltungsdigitalisierung ist die digitale Identität. Nun planen Sie auch digitale Identitäten für KI-Agenten. Wie sollen sich diese von den digitalen Identitäten natürlicher Personen oder Unternehmen unterscheiden?

Wir sehen, dass Menschen bereits intensiv KI-Agenten nutzen. Wenn diese Technologie ohnehin eingesetzt wird, sollten wir auch die Informationssysteme der öffentlichen Verwaltung dafür öffnen. Unser Ziel ist es, den Menschen den Umgang mit der Verwaltung weiter zu erleichtern und möglichst wenig Zeit für Bürokratie aufzuwenden. Gleichzeitig verfügt Estland über ein sehr hohes Cyber-Sicherheitsniveau, das wir unbedingt erhalten und weiter ausbauen wollen. Deshalb mussten wir zwei grundlegende Fragen beantworten: Wie können wir unsere öffentlichen Informationssysteme für KI-Agenten öffnen, ohne die Cyber-Sicherheit zu gefährden? Und wie stellen wir sicher, dass die Verantwortung eindeutig beim Menschen bleibt? 

Wie sehen die Antworten aus?

Unsere Lösung ist eine Art digitale Unteridentität. Ein KI-Agent erhält einen eigenen Code, der fest mit der digitalen Identität einer natürlichen Person verbunden ist. Der Agent kann also nicht unabhängig von seinem menschlichen Auftraggeber handeln. Außerdem erhält er keinen uneingeschränkten Zugang zu staatlichen Systemen. Wir öffnen lediglich eng begrenzte Bereiche, in denen klare Sicherheitsvorgaben gelten. Wir haben uns bewusst für einen eher konservativen Ansatz entschieden. Gerade dadurch können wir bei der Nutzung von KI-Agenten weiter vorankommen.

Welche Aufgaben dürfen solche KI-Agenten künftig übernehmen? Können sie beispielsweise auch Zahlungen ausführen?

Grundsätzlich darf ein KI-Agent alles tun, was der jeweilige Betreiber eines Informationssystems nach einer entsprechenden Risikobewertung erlaubt. Es gibt allerdings eine entscheidende Einschränkung: Ein KI-Agent darf keine rechtsverbindliche digitale Signatur leisten. Das zwingt uns zugleich, unsere Verwaltungsverfahren zu überprüfen. Brauchen wir tatsächlich für jeden Vorgang eine Unterschrift? Wir orientieren uns dabei auch an Erfahrungen aus dem Bankensektor. Wenn Sie beispielsweise 25 Euro überweisen, müssen Sie heute nicht mehr jede Transaktion mit einer gesonderten digitalen Signatur bestätigen. Die Banken haben gezeigt, dass sich Prozesse vereinfachen lassen, wenn Risiken angemessen bewertet werden. Genau das wollen wir auch in der Verwaltung erreichen. Wir prüfen, an welchen Stellen wir auf Unterschriften verzichten und damit Bürokratie abbauen können. Wo eine rechtsverbindliche Signatur erforderlich bleibt, muss sie weiterhin vom Menschen selbst geleistet werden. In Estland verwenden wir dafür das System mit PIN 1 und PIN 2. Mit PIN 1 kann der Nutzer seinen KI-Agenten an die eigene Identität binden. Die Signaturfunktion über PIN 2 bleibt dem Menschen vorbehalten.

„Estland verfügt über ein sehr hohes Cyber-Sicherheitsniveau, das wir unbedingt erhalten und weiter ausbauen wollen.“

Können künftig auch KI-Agenten von Bürgern direkt mit KI-Agenten der Verwaltung kommunizieren und Verwaltungsverfahren selbstständig abwickeln?

Ja, dafür haben wir bereits wichtige rechtliche Grundlagen geschaffen. Estland hat automatisierte Verwaltungsentscheidungen gesetzlich geregelt. Wir unterscheiden dabei zwei Kategorien. Die erste umfasst Entscheidungen, die ausschließlich auf vorhandenen Daten beruhen. Bei der zweiten Kategorie kommen zusätzliche Bewertungen oder Abwägungen hinzu. Für beide Kategorien gelten klare rechtliche Anforderungen, damit die Rechte der Bürger geschützt bleiben. Nehmen wir eine einfache automatisierte Entscheidung, die ausschließlich auf Daten basiert. Dann muss aus dem Bescheid hervorgehen, welche Datenbanken verwendet wurden. Es muss deutlich werden, dass die Entscheidung automatisiert und nicht von einem Menschen getroffen wurde. Außerdem müssen die Betroffenen erfahren, wie sie gegen die Entscheidung vorgehen können und wie sie einen menschlichen Ansprechpartner erreichen, wenn sie Fragen oder Einwände haben. Diese Transparenz ist für uns entscheidend. Wir wollen die Möglichkeiten der Automatisierung nutzen, ohne die Rechte und Freiheiten der Menschen einzuschränken.

Estland und Deutschland wollen bei agentischer KI enger zusammenarbeiten. Gibt es bereits konkrete gemeinsame Projekte?

Ja, und ich bin sehr begeistert von dieser Zusammenarbeit. Deutschland verfügt über viele Talente und großes technologisches Potenzial. Wir haben bereits eine sehr gute Innovationsvereinbarung und suchen nach weiteren konkreten Projekten. Ein wichtiges Ziel ist die Entwicklung grenzüberschreitender Lösungen, bei denen KI-Agenten öffentliche Dienstleistungen auch über nationale Grenzen hinweg nutzen können. Begonnen haben wir mit dem öffentlichen Beschaffungswesen. Dort gibt es viele datenbasierte Prozesse, die sich gut automatisieren lassen. Darüber hinaus arbeiten wir an weiteren Vorhaben, über die ich zum jetzigen Zeitpunkt noch nicht im Detail sprechen kann. Besonders interessant ist für uns auch das Thema digitale Souveränität, dem Deutschland große Aufmerksamkeit widmet. Hier verfolgen wir ähnliche Interessen. Unser Ziel ist es, nicht nur innerhalb einzelner Länder neue oder bessere Verwaltungsdienste zu schaffen. Wir wollen Lösungen entwickeln, die grenzüberschreitend funktionieren und sich perspektivisch in der gesamten Europäischen Union einsetzen lassen.

„Wir wollen die Möglichkeiten der Automatisierung nutzen, ohne die Rechte und Freiheiten der Menschen einzuschränken.“

Hilft dabei auch die Ähnlichkeit der deutschen und estnischen Rechtssysteme?

Ja, sogar sehr. Als Estland 1991 seine Unabhängigkeit wiedererlangte, orientierten wir uns bei vielen Gesetzen am deutschen Recht. Das hatte auch historische Gründe. Viele estnische Juristen beherrschten damals die deutsche Sprache. Deshalb war es naheliegend, sich beim Aufbau unseres Rechtssystems an Deutschland zu orientieren. Unsere Rechtssysteme sind sich bis heute in vielen Bereichen sehr ähnlich. Das erleichtert die Zusammenarbeit erheblich, weil wir zahlreiche rechtliche Grundsatzfragen nicht erneut diskutieren müssen. Gerade bei der Entwicklung grenzüberschreitender digitaler Verwaltungsdienste ist das ein großer Vorteil.

Wenn Sie in die Zukunft blicken: Wie viel Eigenständigkeit sollten KI-Agenten in der öffentlichen Verwaltung erhalten?

Ich denke, sie sollten sehr weitreichende Möglichkeiten bekommen. Aber wir müssen uns zunächst eine andere Frage stellen: Brauchen wir die bestehenden Verwaltungsprozesse überhaupt noch in ihrer heutigen Form? Wir haben in Estland durch die Digitalisierung bereits sehr viel vereinfacht. Mit KI wird dieser Prozess noch einmal beschleunigt. Es gibt einen interessanten Gedanken: KI eignet sich besonders gut dafür, Aufgaben zu erledigen, die eigentlich von Anfang an überflüssig waren. Nehmen wir wieder das Beispiel der Unterschriften. Müssen wir diesen bürokratischen Schritt wirklich beibehalten? Brauchen wir eine bestimmte Verwaltungsleistung überhaupt noch in dieser Form? Ist eine bestehende Vorschrift tatsächlich notwendig? Mit solchen Fragen beschäftigen wir uns seit zwei Jahren sehr intensiv. KI ist für uns deshalb nicht nur ein Werkzeug, um bestehende Abläufe schneller zu machen. Sie zwingt uns vielmehr, die Abläufe selbst zu hinterfragen. Wir wollen nicht einfach die alte Bürokratie in KI-Systeme übertragen. Wir wollen prüfen, welche bürokratischen Anforderungen wir ganz abschaffen können. Genau darin liegt für mich eine der größten Chancen dieser Technologie.