Österreich:
Prüfkatalog für KI-Systeme


[15.9.2020] Das österreichische Bundesrechenzentrum hat jetzt einen Prüfkatalog für vertrauenswürdige KI-Systeme vorgestellt. Dabei geht es um die ethischen Aspekte des KI-Einsatzes in der Verwaltung.

In der BRZ Breakout Session diskutierten Experten und Branchenvertreter ethische Aspekte des Einsatzes von KI in der Verwaltung. Künstliche Intelligenz (KI) kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kunden zu erhöhen. Der KI-Einsatz in der Verwaltung wirft jedoch ethische Fragen auf, berichtet das österreichische Bundesrechenzentrum (BRZ). „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, erklärt Markus Kaiser, Geschäftsführer des BRZ zum Thema einer BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

Fünf wesentliche Kriterien

Das BRZ hat laut eigener Angabe einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen KI-Einsatz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, würden Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit lauten. Hinter jedem Kriterium sollen umfassende Prüfschritte stehen, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nehme das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel sei es, ein umfassendes Bild von einem Algorithmus zu erhalten und gegebenenfalls Optimierungsbedarf herauszuarbeiten. Das Prüfungsergebnis der einzelnen Kriterien werde in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert. „Erstmals steht dem Public Sector mit dem BRZ-intern entwickelten Prüfkatalog ein Werkzeug zur Verfügung, das den Nutzen von KI-Systemen maximiert und gleichzeitig mögliche Risiken und Verbesserungspotenzial schon vor der Einführung aufzeigt. Der Einsatz von KI in der Verwaltung bringt E-Government-Anwendungen in die Zukunft. Mit dem Prüfkatalog möchten wir dafür sorgen, dass das Vertrauen der Bürger in Systeme mit KI steigt“, sagt Markus Kaiser.

Mensch im Mittelpunkt

Der Prüfkatalog wurde erstmals am 2. September 2020 bei einer digitalen BRZ Breakout Session zum Thema Vertrauen in KI (Building Trust in Human-Centric Artificial Intelligence) im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell, Mitglied der APA-Chefredaktion diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin, Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags sowie BRZ-Geschäftsführer Markus Kaiser, informiert das BRZ. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Neue Applikationen und Services

Das BRZ will seinen Kunden die Möglichkeit bieten, den Prüfkatalog für neue Applikationen und Services, die KI nutzen, einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis. „Wir sind uns sicher, dass BRZ-Kunden diesen neuen innovativen Service in Anspruch nehmen werden, um mit uns gemeinsam neue und innovative Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern.“ (co)

https://www.brz.gv.at

Stichwörter: IT-Sicherheit, International, Österreich, BRZ, Künstliche Intelligenz (KI)

Bildquelle: BRZ

Druckversion    PDF     Link mailen


Weitere Meldungen und Beiträge aus dem Bereich IT-Sicherheit
IT-Sicherheit: Risiken im Homeoffice Bericht
[14.9.2020] Viele Mitarbeiter wurden in den vergangenen Monaten ins Homeoffice geschickt und von dort an das Behördennetzwerk angeschlossen. Sicherheitsaspekte spielten zunächst keine große Rolle. Das BSI rät nun, verpflichtende Sicherheitsrichtlinien auszugeben. mehr...
Auf IT-Sicherheit ist auch im Homeoffice zu achten.
Virtual Solution: BSI-Freigabe für Sicherheitsapp SecurePIM
[11.9.2020] Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat der Kommunikationsanwendung SecurePIM für Android eine Freigabe bis zum Geheimhaltungsgrad VS-NfD erteilt. Die iOS-Zulassung wurde verlängert. mehr...
Greenbone: Sicher im Homeoffice
[9.9.2020] Allein ein VPN-Zugang bietet für das Homeoffice zu wenig Schutz – ein Umstand, der Behörden und Unternehmen während der Corona-Pandemie stark beschäftigt hat. Für die sichere Arbeit von zu Hause aus ist ein starkes Schwachstellen-Management unabdingbar. mehr...
Eine gute Vulnerability-Management-Lösung scannt das gesamte Homeoffice-Netzwerk auf Schwachstellen.
BSI: Zulassung für mobile Sicherheitslösung
[8.9.2020] Die mobile Sicherheitslösung von Rohde & Schwarz Cybersecurity hat eine Zulassung für die Geheimhaltungsstufen VS-NfD, NATO-Restricted und EU-Restricted vom Bundesamt für Sicherheit in der Informationstechnik (BSI) erhalten. Die Anwendung ermöglicht somit die Einhaltung der hohen Sicherheitsanforderungen deutscher Bundesbehörden. mehr...
Niedersachsen: Datenschutz im Blick behalten
[7.9.2020] Den Datenschutz nicht als Hindernis behandeln, das es aus dem Weg zu räumen gilt, sondern im Blick zu behalten – das fordert die Landesbeauftragte für den Datenschutz (LfD) Niedersachsen, Barbara Thiel, bei der Vorstellung ihres Tätigkeitsberichts 2019. mehr...