Österreich:
Prüfkatalog für KI-Systeme


[15.9.2020] Das österreichische Bundesrechenzentrum hat jetzt einen Prüfkatalog für vertrauenswürdige KI-Systeme vorgestellt. Dabei geht es um die ethischen Aspekte des KI-Einsatzes in der Verwaltung.

In der BRZ Breakout Session diskutierten Experten und Branchenvertreter ethische Aspekte des Einsatzes von KI in der Verwaltung. Künstliche Intelligenz (KI) kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kunden zu erhöhen. Der KI-Einsatz in der Verwaltung wirft jedoch ethische Fragen auf, berichtet das österreichische Bundesrechenzentrum (BRZ). „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, erklärt Markus Kaiser, Geschäftsführer des BRZ zum Thema einer BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

Fünf wesentliche Kriterien

Das BRZ hat laut eigener Angabe einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen KI-Einsatz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, würden Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit lauten. Hinter jedem Kriterium sollen umfassende Prüfschritte stehen, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nehme das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel sei es, ein umfassendes Bild von einem Algorithmus zu erhalten und gegebenenfalls Optimierungsbedarf herauszuarbeiten. Das Prüfungsergebnis der einzelnen Kriterien werde in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert. „Erstmals steht dem Public Sector mit dem BRZ-intern entwickelten Prüfkatalog ein Werkzeug zur Verfügung, das den Nutzen von KI-Systemen maximiert und gleichzeitig mögliche Risiken und Verbesserungspotenzial schon vor der Einführung aufzeigt. Der Einsatz von KI in der Verwaltung bringt E-Government-Anwendungen in die Zukunft. Mit dem Prüfkatalog möchten wir dafür sorgen, dass das Vertrauen der Bürger in Systeme mit KI steigt“, sagt Markus Kaiser.

Mensch im Mittelpunkt

Der Prüfkatalog wurde erstmals am 2. September 2020 bei einer digitalen BRZ Breakout Session zum Thema Vertrauen in KI (Building Trust in Human-Centric Artificial Intelligence) im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell, Mitglied der APA-Chefredaktion diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin, Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags sowie BRZ-Geschäftsführer Markus Kaiser, informiert das BRZ. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Neue Applikationen und Services

Das BRZ will seinen Kunden die Möglichkeit bieten, den Prüfkatalog für neue Applikationen und Services, die KI nutzen, einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis. „Wir sind uns sicher, dass BRZ-Kunden diesen neuen innovativen Service in Anspruch nehmen werden, um mit uns gemeinsam neue und innovative Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern.“ (co)

https://www.brz.gv.at

Stichwörter: IT-Sicherheit, International, Österreich, BRZ, Künstliche Intelligenz (KI)

Bildquelle: BRZ

Druckversion    PDF     Link mailen



Weitere Meldungen und Beiträge aus dem Bereich IT-Sicherheit
Baden-Württemberg: Umfassende Cybersicherheitsstrategie
[12.1.2022] Der Ministerrat des Landes Baden-Württemberg hat eine Cybersicherheitsstrategie beschlossen. Das umfassende Gesamtkonzept nimmt alle gesellschaftlichen Aspekte der Cyber-Sicherheit in den Blick. Die Cybersicherheitsagentur Baden-Württemberg (CSBW) spielt dabei eine zentrale Rolle. mehr...
Baden-Württemberg: Umfassende Strategie für mehr Cyber-Sicherheit beschlossen.
Dataport/BSI: Zusammenarbeit bei der IT-Sicherheit
[11.1.2022] Beim Thema IT-Sicherheit wollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der IT-Dienstleister Dataport künftig enger zusammenarbeiten. mehr...
Nordrhein-Westfalen: Cyber-Sicherheitsstrategie beschlossen
[23.12.2021] In Nordrhein-Westfalen hat die Regierung ihre Cyber-Sicherheitsstrategie beschlossen und einen ersten Bericht zum Thema vorgelegt. Ihm zufolge ist die Computer-Kriminalität im Corona-Jahr 2020 um 20,8 Prozent gestiegen, worauf die Strategie in naher Zukunft mit zwei konkreten Projekten reagieren wird. mehr...
Virtual Solution: BSI gibt SecurePIM für Android 11 frei
[21.12.2021] Die mobile Kommunikationsanwendung SecurePIM Government SDS erhielt vom BSI eine Freigabe für Android 11 bis hin zum Geheimhaltungsgrad VS-NfD. Damit kann die Lösung jetzt auch auf modernsten Endgeräten betrieben werden. mehr...
PwC Deutschland: IT-Sicherheit für die öffentliche Verwaltung
[20.12.2021] Die Wirtschaftsprüfungs- und Beratungsgesellschaft PricewaterhouseCoopers (PwC) gibt vor dem Hintergrund häufiger Cyber-Attacken grundlegende Tipps, wie Behörden und Ämter ihre Daten und Systeme vor solchen Angriffen schützen können. mehr...
PricewaterhouseCoopers (PwC) gibt Tipps zur Cyber-Sicherheit in Ämtern und Behörden.
Suchen...

 Anzeige


Ausgewählte Anbieter aus dem Bereich IT-Sicherheit:
procilon GROUP
04425 Taucha bei Leipzig
procilon GROUP
Aktuelle Meldungen