BfDI/BMJ/BMWKEuropäische KI-Verordnung beschlossen

Die Mitgliedstaaten der Europäischen Union haben im Ausschuss der Ständigen Vertreter die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung oder AI Act) einstimmig gebilligt. Mit der KI-Verordnung will die EU einen Rahmen für den Einsatz von Künstlicher Intelligenz in Europa setzen und so Innovationen fördern, gleichzeitig aber das Vertrauen in KI stärken und sicherstellen, dass die Technologie in einer Weise genutzt wird, die Grundrechte und Sicherheit der Bürgerinnen und Bürger der EU respektiert. Die KI-Verordnung sei das weltweilt erste umfassende Regelwerk für KI, heißt es in einer gemeinsamen Meldung des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) und des Bundesministeriums der Justiz (BMJ). Beide Ministerien waren beim Vertreten der deutschen Position bei den europäischen Verhandlungen über die KI-Verordnung federführend zuständig. Vor Inkrafttreten der Verordnung müssen nun noch das Europäische Parlament und eine Ratsformation formell zustimmen.

Strenge Auflagen für mächtige generative KI

Unter anderem wurde klargestellt, dass es sich bei der KI-Verordnung um eine Produktregulierung handelt, die sich nicht auf Forschungs- und Entwicklungsaktivitäten bezieht. Gleichzeitig soll die Verordnung das Fundament für die Entwicklung anwendungsorientierter KI in Europa schaffen. Social Scoring mithilfe Künstlicher Intelligenz und Emotionserkennung am Arbeitsplatz werde es in Europa nicht geben. Die Verordnung enthalte strenge und einschränkende Vorgaben zur biometrischen Fernidentifikation und beuge so einer flächendeckenden biometrischen Überwachung vor, heißt es von BMWK und BMJ. Grundsätzlich verfolge die KI-Verordnung einen risikobasierten Ansatz: Je höher das Risiko ist, desto strenger sind auch die Pflichten. Besondere Vorschriften werde es für generative KI geben, namentlich so genannte KI-Modelle mit allgemeinem Verwendungszweck, darunter auch solche, die Inhalte wie Texte und Bilder generieren. Dabei unterliegen besonders wirkmächtige KI-Modelle mit systemischem Risiko strengeren Auflagen.

BfDI bleibt in einigen Punkten skeptisch

Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI), Ulrich Kelber, begrüßt die KI-Verordnung als Ergänzung zur Datenschutz-Grundverordnung (DSGVO). „Die darin formulierten Anforderungen ergänzen bestehende Anforderungen und unterstützen deren Einhaltung. Dadurch wird der Schutz der Grundrechte, insbesondere der Datenschutz, gestärkt.“ Er begrüße, dass die Datenschutzaufsichtsbehörden als Aufsicht für diverse Hochrisiko-KI-Systeme vorgesehen sind, so Kelber. Viele der Vorgaben für Hochrisiko-KI-Systeme in der Verordnung hätten einen engen Bezug zum Datenschutz. So werde beispielsweise der Schutz vor automatisierter Entscheidung aus der DSGVO gestärkt und nun durch das Erfordernis menschlicher Aufsicht bei KI-unterstützten Entscheidungsfindungen erweitert. Gleichzeitig bedauert der BfDI, dass einige der vom Europäischen Datenschutzausschuss (EDSA) und dem Europäischen Datenschutzbeauftragten (EDSB) in einer gemeinsamen Stellungnahme im Jahr 2021 geäußerten Kritikpunkte nicht umgesetzt wurden. So vermisst Kelber ein klares Verbot biometrischer Fernerkennung im öffentlichen Raum und sprach von einem „Versäumnis“. Die Bundesregierung solle die Öffnungsklausel für striktere nationale Verbote nutzen, so der BfDI.