Österreich:
Prüfkatalog für KI-Systeme


[15.9.2020] Das österreichische Bundesrechenzentrum hat jetzt einen Prüfkatalog für vertrauenswürdige KI-Systeme vorgestellt. Dabei geht es um die ethischen Aspekte des KI-Einsatzes in der Verwaltung.

In der BRZ Breakout Session diskutierten Experten und Branchenvertreter ethische Aspekte des Einsatzes von KI in der Verwaltung. Künstliche Intelligenz (KI) kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kunden zu erhöhen. Der KI-Einsatz in der Verwaltung wirft jedoch ethische Fragen auf, berichtet das österreichische Bundesrechenzentrum (BRZ). „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, erklärt Markus Kaiser, Geschäftsführer des BRZ zum Thema einer BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

Fünf wesentliche Kriterien

Das BRZ hat laut eigener Angabe einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen KI-Einsatz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, würden Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit lauten. Hinter jedem Kriterium sollen umfassende Prüfschritte stehen, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nehme das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel sei es, ein umfassendes Bild von einem Algorithmus zu erhalten und gegebenenfalls Optimierungsbedarf herauszuarbeiten. Das Prüfungsergebnis der einzelnen Kriterien werde in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert. „Erstmals steht dem Public Sector mit dem BRZ-intern entwickelten Prüfkatalog ein Werkzeug zur Verfügung, das den Nutzen von KI-Systemen maximiert und gleichzeitig mögliche Risiken und Verbesserungspotenzial schon vor der Einführung aufzeigt. Der Einsatz von KI in der Verwaltung bringt E-Government-Anwendungen in die Zukunft. Mit dem Prüfkatalog möchten wir dafür sorgen, dass das Vertrauen der Bürger in Systeme mit KI steigt“, sagt Markus Kaiser.

Mensch im Mittelpunkt

Der Prüfkatalog wurde erstmals am 2. September 2020 bei einer digitalen BRZ Breakout Session zum Thema Vertrauen in KI (Building Trust in Human-Centric Artificial Intelligence) im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell, Mitglied der APA-Chefredaktion diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin, Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags sowie BRZ-Geschäftsführer Markus Kaiser, informiert das BRZ. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Neue Applikationen und Services

Das BRZ will seinen Kunden die Möglichkeit bieten, den Prüfkatalog für neue Applikationen und Services, die KI nutzen, einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis. „Wir sind uns sicher, dass BRZ-Kunden diesen neuen innovativen Service in Anspruch nehmen werden, um mit uns gemeinsam neue und innovative Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern.“ (co)

https://www.brz.gv.at

Stichwörter: IT-Sicherheit, International, Österreich, BRZ, Künstliche Intelligenz (KI)

Bildquelle: BRZ

Druckversion    PDF     Link mailen


Weitere Meldungen und Beiträge aus dem Bereich IT-Sicherheit
IT-Konsolidierung Bund: Sicherheitsbeauftragter ernannt
[18.12.2020] Die Informationssicherheitsrichtlinie IT-Konsolidierung Bund verlangt die Ernennung eines Informationssicherheitsbeauftragten für das Projekt. Dieser – und sein Stellvertreter – wurden nun von BSI-Präsident Arne Schönbohm berufen. mehr...
BSI-Vizepräsident Gerhard Schabhüser (links) übergibt Christoph Lauffer die Urkunde zur Ernennung zum Informationssicherheitsbeauftragten für die IT-Konsolidierung Bund.
Hessen: Kooperation für Cyber-Sicherheit
[9.12.2020] Im Bereich der Cyber-Sicherheit arbeitet Hessen künftig mit dem Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt zusammen. Dafür wurde zunächst ein auf vier Jahre datierter Rahmenvertrag abgeschlossen. mehr...
KI: Zertifizierung made in Germany
[30.11.2020] Für die Entwicklung einer KI-Zertifizierung made in Germany haben das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut IAIS eine Kooperationsvereinbarung unterzeichnet. mehr...
Online-Kompendium: Cyber-Sicherheit in Deutschland
[25.11.2020] Das Online-Kompendium Cyber-Sicherheit in Deutschland des BMI wurde jetzt offiziell vorgestellt. Es liefert einen Überblick über alle in Deutschland tätigen Akteure im Bereich der Cyber- und Informationssicherheit. mehr...
BMI / BSI: Gastgeber der EU-Cybersicherheitskonferenz
[11.11.2020] Die Europäische Cybersicherheitskonferenz 2020 wurde vom BMI und BSI ausgerichtet. Das Digitalevent war hochkarätig besetzt. Zu den Themen gehörten das Europäische Kompetenzzentrum Cybersicherheit und die Sicherheit im Internet of Things. mehr...
Im Rahmen der deutschen EU-Ratspräsidentschaft waren BMI und BSI die Gastgeber der EU-Cybersicherheitskonferenz.