Deutschland/GroßbritannienZusammenarbeit für KI-Sicherheit

Im Juni hatte der Nationale Sicherheitsrat der Bundesregierung die Einrichtung eines Sicherheitsinstituts für Künstliche Intelligenz beschlossen. Der Aufbau des Deutschen AI Security Institute (DE-AISI) soll gemeinsam vom Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und dem Bundesinnenministerium (BMI) vorangetrieben werden. Es soll in Zukunft dazu beitragen, die Chancen und Risiken von Künstlicher Intelligenz besser einzuschätzen und sich mit vergleichbaren ausländischen Einrichtungen austauschen.

Nun meldet das BMDS, dass Deutschland und Großbritannien ihre Zusammenarbeit im Bereich Künstlicher Intelligenz und KI-Sicherheit intensivieren wollen. Dies hatten Bundesdigitalminister Karsten Wildberger und seine britische Amtskollegin Elizabeth Kendall in London vereinbart. Insbesondere soll es eine enge Kooperation zwischen dem UK AI Security Institute (AISI) und dem künftigen deutschen KI-Sicherheitsinstitut geben.

Hintergrund ist unter anderem die Diskussion um das KI-Modell Claude Mythos des Anbieters Anthropic. Das im April vorgestellte Modell kann zielgerichtet Schwachstellen in Software finden – aber auch Exploits entwickeln, die diese Lücken gezielt ausnutzen. Das britische AI Security Institute hatte Claude Mythos Preview frühzeitig in Cyber-Evaluationen getestet und kam zu dem Ergebnis, dass das Modell gegenüber früheren Frontier-Modellen deutlich leistungsfähiger war.

„Deutschland ist als EU-Mitgliedstaat eng in die europäische KI-Governance eingebunden. Zugleich braucht eine globale Schlüsseltechnologie wie Künstliche Intelligenz internationale Zusammenarbeit. Mit der Vereinbarung stärken wir das internationale Netzwerk für KI-Sicherheit und profitieren vom Austausch mit einem international renommierten Partner wie dem britischen AI Security Institute“, erklärte Bundesminister Wildberger. Seine britische Kollegin Kendall betonte, dass beide Länder durch enge wissenschaftliche Beziehungen und gemeinsame Sicherheitsinteressen verbunden seien. Die Erklärung zeige den gemeinsamen Willen, fortschrittliche KI nutzbar zu machen und ihre Risiken auf Grundlage der besten verfügbaren Erkenntnisse zu erforschen und zu steuern.