KI-GesetzNeue Rolle für Bundesnetzagentur

Mit dem Ende Juli in Kraft getretenen Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) erhält die Bundesnetzagentur eine zentrale Rolle bei der Umsetzung der europäischen KI-Verordnung: Sie übernimmt die nationale Koordinierung und wird Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle, teilten das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und die Bundesnetzagentur mit.

Nach dem im Gesetz verankerten hybriden Aufsichtsmodell bleiben bestehende Marktüberwachungs- und Fachaufsichtsbehörden in bereits regulierten Produktbereichen zuständig, etwa die Bundesanstalt für Finanzdienstleistungsaufsicht und die Landesmedienanstalten. Die Bundesnetzagentur übernimmt auf Bundesebene die Marktüberwachung in bislang nicht regulierten Produktbereichen; die Länder können sie zudem im Wege der Organleihe mit der Aufsicht über KI-Systeme betrauen. Eigene Aufsichtsaufgaben erhält sie unter anderem für KI-Systeme in Funkanlagen sowie grundsätzlich für bestimmte Anwendungen im Personalmanagement, in kritischen Infrastrukturen und im Bildungswesen.

Koordinierung und Transparenz

Ein zentrales Koordinierungs- und Kompetenzzentrum bei der Bundesnetzagentur soll die zuständigen Marktüberwachungsbehörden und notifizierenden Behörden bei komplexen Entscheidungen unterstützen und eine einheitliche Anwendung der KI-Verordnung fördern. Zugleich koordiniert die Behörde die Zusammenarbeit der beteiligten Stellen sowie den Austausch mit den zuständigen europäischen Behörden. Als Beschwerdestelle nimmt sie Hinweise auf mögliche Verstöße entgegen, bearbeitet diese und leitet sie bei Bedarf an die jeweils zuständige Behörde weiter.

In ihren eigenen Zuständigkeitsbereichen kontrolliert die Bundesnetzagentur außerdem die Einhaltung der Transparenzpflichten und der Verbote bestimmter KI-Praktiken. Seit dem 2. August 2026 müssen bestimmte KI-generierte oder manipulierte Audio-, Bild-, Video- und Textinhalte gekennzeichnet werden. Nach Leitlinien der Europäischen Kommission sollen KI-generierte Bild- und Toninhalte zudem erkennbar und maschinenlesbar markiert sein, etwa durch digitale Wasserzeichen oder Metadaten.

Beratung und Erprobung

Neben der Aufsicht soll die Bundesnetzagentur Unternehmen, Behörden und andere Organisationen bei der Anwendung der europäischen Vorgaben unterstützen. Der bereits eingerichtete KI-Service Desk richtet sich insbesondere an kleine und mittlere Unternehmen sowie Start-ups. Darüber hinaus soll bei der Bundesnetzagentur ein KI-Reallabor entstehen, in dem innovative KI-Systeme in einer kontrollierten Umgebung entwickelt, trainiert, getestet und validiert werden können. Vorgesehen ist eine regulatorische Begleitung, bei der Anforderungen geklärt, Risiken identifiziert und Maßnahmen zu ihrer Begrenzung erarbeitet werden.

Die europäische KI-Verordnung ist seit dem 1. August 2024 in Kraft, wird stufenweise anwendbar und richtet sich an Unternehmen, Behörden und Organisationen, die KI-Systeme entwickeln oder einsetzen.