BayernKI-Sicherheit im Fokus

Das Bayerische Staatsministerium für Digitales baut seine Aktivitäten zur Sicherheit Künstlicher Intelligenz aus. Kernstück ist ein neuer Bayerischer KI-Sicherheitsdialog, in dem Vertreter aus Wirtschaft, Wissenschaft und Politik regelmäßig aktuelle Entwicklungen bewerten und Handlungsbedarf identifizieren sollen. Das Format soll mindestens zweimal im Jahr zusammenkommen, die erste Sitzung ist noch für 2026 vorgesehen.

Jährlicher Bericht zur KI-Sicherheit

Ergänzend plant das Ministerium eine unabhängige wissenschaftliche Begleitung. Auf dieser Grundlage soll künftig jährlich ein Bayerischer KI-Sicherheitsbericht veröffentlicht werden. Der erste Bericht ist für 2027 geplant. Mehring begründet den Aufbau eigener Expertise mit der staatlichen Verantwortung für die Sicherheit neuer Technologien. Der Staat dürfe sein Wissen nicht ausschließlich von den Unternehmen beziehen, die KI-Systeme entwickeln und vermarkten. „Der Konstrukteur sollte nicht zugleich der TÜV seines eigenen Produkts sein“, erklärte der Minister.

KI-Ethikforum soll gesellschaftliche Fragen behandeln

Neben technischen Sicherheitsfragen will Bayern die ethischen und gesellschaftlichen Folgen leistungsfähiger KI stärker in den Blick nehmen. Dazu soll unter dem Dach des Digitalministeriums ein Bayerisches KI-Ethikforum entstehen. Auch dieses Gremium soll noch 2026 erstmals zusammentreten. 

Auslöser der Initiative sind insbesondere die wachsenden Fähigkeiten von Frontier-Modellen und agentischer KI. Nach Auffassung des Digitalministeriums müssen dabei KI-Sicherheit und Cyber-Sicherheit stärker zusammengedacht werden. Risiken gingen nicht nur von den Systemen selbst aus, sondern auch vom gezielten Einsatz von KI für Cyber-Angriffe, Betrug, Manipulation oder Desinformation.

Mehring fordert abgestufte Regulierung

Mehring spricht sich zugleich gegen einheitliche Vorgaben für sämtliche KI-Anwendungen aus. Die Sicherheitsanforderungen sollten sich vielmehr an den Fähigkeiten eines Systems und seinem möglichen Schadenspotenzial orientieren. „Je größer die Fähigkeiten und je größer der mögliche Schaden, desto höher müssen die Sicherheitsanforderungen sein“, so der Digitalminister. Darüber hinaus plant das Ministerium Informations- und Dialogangebote, um Bürgerinnen und Bürger über Funktionsweise, Möglichkeiten und Risiken von KI aufzuklären.