ÖsterreichPrüfkatalog für KI-Systeme

Künstliche Intelligenz (KI) kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kunden zu erhöhen. Der KI-Einsatz in der Verwaltung wirft jedoch ethische Fragen auf, berichtet das österreichische Bundesrechenzentrum (BRZ). „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, erklärt Markus Kaiser, Geschäftsführer des BRZ zum Thema einer BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

Fünf wesentliche Kriterien

Das BRZ hat laut eigener Angabe einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen KI-Einsatz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, würden Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit lauten. Hinter jedem Kriterium sollen umfassende Prüfschritte stehen, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nehme das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel sei es, ein umfassendes Bild von einem Algorithmus zu erhalten und gegebenenfalls Optimierungsbedarf herauszuarbeiten. Das Prüfungsergebnis der einzelnen Kriterien werde in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert. „Erstmals steht dem Public Sector mit dem BRZ-intern entwickelten Prüfkatalog ein Werkzeug zur Verfügung, das den Nutzen von KI-Systemen maximiert und gleichzeitig mögliche Risiken und Verbesserungspotenzial schon vor der Einführung aufzeigt. Der Einsatz von KI in der Verwaltung bringt E-Government-Anwendungen in die Zukunft. Mit dem Prüfkatalog möchten wir dafür sorgen, dass das Vertrauen der Bürger in Systeme mit KI steigt“, sagt Markus Kaiser.

Mensch im Mittelpunkt

Der Prüfkatalog wurde erstmals am 2. September 2020 bei einer digitalen BRZ Breakout Session zum Thema Vertrauen in KI (Building Trust in Human-Centric Artificial Intelligence) im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell, Mitglied der APA-Chefredaktion diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin, Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags sowie BRZ-Geschäftsführer Markus Kaiser, informiert das BRZ. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Neue Applikationen und Services

Das BRZ will seinen Kunden die Möglichkeit bieten, den Prüfkatalog für neue Applikationen und Services, die KI nutzen, einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis. „Wir sind uns sicher, dass BRZ-Kunden diesen neuen innovativen Service in Anspruch nehmen werden, um mit uns gemeinsam neue und innovative Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern.“