BSIDiskussion zu KI und Cyber-Sicherheit

[26.02.2024] Auf der Münchner Sicherheitskonferenz hat sich BSI-Präsidentin Claudia Plattner mit Sicherheitsexpertinnen und -experten über Gefahren und Chancen von KI für die Cyber-Sicherheit ausgetauscht.

BSI-Präsidentin Claudia Plattner (r.) sprach auf der Münchner Sicherheitskonferenz mit zahlreichen Sicherheitsexpertinnen und -experten. Hier mit FBI-Direktor Christopher A. Wray.

(Bildquelle: BSI)

Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, hat auf der diesjährigen Münchner Sicherheitskonferenz (MSC) bei einer Diskussion unter dem Titel „HackGPT? Cybersecurity in the Age of Artificial Intelligence“ mit internationalen Sicherheitsexpertinnen und -experten sowie Entscheiderinnen und Entscheidern weltweit führender Technologieunternehmen gesprochen. Wie das BSI mitteilt, haben die Fachleute darüber diskutiert, wie es gelingen kann, die Chancen Künstlicher Intelligenz (KI) zu nutzen und gleichzeitig die Risiken von KI im internationalen Sicherheitskontext zu reduzieren.

Dem BSI zufolge nehmen hybride Gefahren aus dem Cyber-Raum zu und werden immer häufiger zu geopolitischen Risiken. Auch unter Zuhilfenahme von KI gelinge es Angreifenden, immer schneller und effizienter zu agieren. Die Diskutanten seien sich darüber einig gewesen, dass man sich auch mit Blick auf viele in diesem Jahr anstehende Wahlen auf multiple Angriffsszenarien gefasst machen müsse, deren Ziel es sei, Chaos zu stiften und Vertrauen in Regierungen zu zerstören. So müsse man mit Cyber-Attacken auf Kritische Infrastrukturen (KRITIS) in Kombination mit breit angelegten Desinformationskampagnen rechnen. Vor diesem Hintergrund sei eine enge und transparente Zusammenarbeit zwischen staatlichen Akteuren, Wirtschaft und Wissenschaft essenziell, um die Resilienz im Cyber-Raum signifikant zu erhöhen.

Schritt halten

BSI-Präsidentin Claudia Plattner erläuterte: „Hinsichtlich Cyber-Bedrohungen im Zusammenhang mit Künstlicher Intelligenz kommt es darauf an, dass wir als Verteidiger mit den Angreifenden Schritt halten. Dafür sind drei Punkte entscheidend: Erstens ist Geschwindigkeit von größter Bedeutung, zum Beispiel beim Umgang mit Sicherheitslücken. Eine neue Schwachstelle kann mit KI innerhalb weniger Tage oder sogar Stunden ausgenutzt werden. Wir müssen dafür sorgen, dass unsere Abwehrsysteme mindestens ebenso schnell und effizient funktionieren. Dabei kann KI uns helfen. Der zweite entscheidende Faktor ist der Zugang zu und Umgang mit Informationen: Große KI-Sprachmodelle können durch prompt injections ausgetrickst werden, sodass sie sensible Informationen preisgeben. Wir müssen also sicherstellen, dass nur notwendige Informationen in KI-Werkzeugen wie Large Language Models (LLM) gespeichert werden, und verhindern, dass Unbefugte durch KI sensible Informationen erlangen. Das erfordert gemeinsame Anstrengungen der Technologiekonzerne. Der dritte Punkt ist Technologiekompetenz: Wir müssen die Herausforderung annehmen und schnellstmöglich sicherstellen, dass wir genügend Fachleute auf unserer Seite haben, die KI verstehen, um unseren Technologievorsprung halten zu können. Hierbei sind Kooperationen zwischen öffentlicher Hand und privater Wirtschaft, so genannte Public Private Partnerships, unabdingbar.“

KI-Portfolio erweitert

Das BSI hat eigenen Angaben zufolge sein KI-Portfolio deutlich erweitert und ein Kompetenzzentrum eingerichtet, das sich mit Bewertungsverfahren, Regulierungsmaßnahmen und dem Schutz von Verbraucherinnen und Verbrauchern im KI-Kontext befasst. Das BSI betrachte KI-gestützte Erkennungssysteme zur Cyber-Abwehr und forsche zu KI in Bereichen wie beispielsweise dem Finanz- und Gesundheitssektor, dem autonomen Fahren und in Bezug auf Technologien zur Sicherung des Grenzverkehrs.





Weitere Meldungen und Beiträge aus dem Bereich: IT-Sicherheit

Bayern: Zero Trust im Behördennetz

[12.04.2024] Einen Fahrplan für die sukzessive Einführung einer Zero-Trust-Architektur im Bayerischen Behördennetz hat das Landesamt für Sicherheit in der Informationstechnik (LSI) gemeinsam mit dem Fraunhofer-Institut AISEC aufgestellt. mehr...

Porträtfoto des bayerischen Finanz- und Heimatministers Albert Füracker.

Cyber-Sicherheit: Dezentrale IT-Sicherheit als Schlüssel

[08.04.2024] Die deutschen Bundesländer sollen im Kampf gegen Cyber-Bedrohungen stärker zusammenarbeiten. Die dezentrale Struktur und die schnelle Kommunikation seien entscheidend für den Schutz Kritischer Infrastrukturen und staatlicher IT-Systeme, so Bayerns Finanz- und Heimatminister Albert Füracker. mehr...

Das Bild zeigt ein stilisiertes Vorhängeschloss mit Code-Zeilen im Hintergrund.

BSI: Schwachstellen im Exchange Server

[29.03.2024] Eine Untersuchung des Bundesamts für Sicherheit in der Informationstechnik (BSI) zeigt, dass in Deutschland mindestens 17.000 Microsoft Exchange Server durch kritische Sicherheitslücken gefährdet sind. Das BSI ruft zur sofortigen Aktualisierung und sicheren Konfiguration der Systeme auf. mehr...

Das Bild zeigt Dr. Christian Schumer, CEO & Senior Vice President Sales von Materna Virtual Solution.
interview

Interview: Ultramobiles Arbeiten mit BSI-Siegel

[27.03.2024] Mit dem indigo-Konzept von Apple können auch Behörden iPhones und iPads sicher nutzen. Materna Virtual Solution unterstützt seine Kunden dabei mit einem eigenen Kompetenz-Center und speziell entwickelten Lösungen. move-online sprach darüber mit Christian Schumer, CEO & Senior Vice President Sales von Materna Virtual Solution. mehr...

BSI: Neuer Mindeststandard für Browser

[21.03.2024] Das BSI hat den Mindeststandard für Webbrowser aktualisiert, die in der Bundesverwaltung, aber auch in Ländern und Kommunen zum Einsatz kommen. In seiner aktuellen Fassung berücksichtigt der Mindeststandard nun auch Anforderungen für Browser, die mobil eingesetzt werden. mehr...

Das Bild zeigt einen Bildschrim mit geöffnetem Security-Programm.

Cybersecurity Report: Bedrohung auf Rekordniveau

[14.03.2024] Der aktuelle Cybersecurity Report von Trend Micro zeigt, dass Angriffe auf IT-Systeme immer raffinierter werden. Deutschland gehört zu den am stärksten betroffenen Ländern, insbesondere im Bereich Ransomware. Im Fokus der Angreifer stehen staatliche Einrichtungen und Kritische Infrastrukturen. mehr...

Nahaufnahme vom Dach eines roten Fahrzeuges mit einem Feuerwehr-Schild.

BSI/DFV: Mehr IT-Sicherheit für Feuerwehren

[08.03.2024] Um die Informationssicherheit bei Feuerwehren und in Leitstellen besser zu schützen, wollen der Deutsche Feuerwehrverband und das BSI ihre Zusammenarbeit intensivieren. Das BSI hat Checklisten veröffentlicht, die Feuerwehren den Weg in eine Basisabsicherung bahnen sollen. mehr...

Logo Nationales Cyber-Abwehrzentrum

Bayern/Nordrhein-Westfalen: Verstärkung für das Cyber-Abwehrzentrum

[27.02.2024] Das Nationale Cyber-Abwehrzentrum erhält nun dauerhaft Verstärkung durch die Länderstaatsanwaltschaften Bayerns und Nordrhein-Westfalens. Die Zusammenarbeit war bereits im Rahmen eines Pilotprojekts erprobt worden, nun wird sie verstetigt. mehr...

Das Bild zeigt die Hauptbühne des Mobile World Congress in Barcelona.

Mobile World Congress: Sicheres Arbeiten mit Apple-Geräten

[26.02.2024] Auf dem Mobile World Congress in Barcelona präsentieren Rohde & Schwarz Cybersecurity und agilimo Consulting die Lösung Indigo in a box. Diese Weltneuheit ermöglicht die einfache Aktivierung von Apple-Geräten für höchste Sicherheitsanforderungen in Behörden. mehr...

An einem großen Konferenztisch sitzen 26 europäische Cyber-Sicherheitsdirektoren beim Cyber Security Directors‘ Meeting.

Cyber-Sicherheit: EU-Experten diskutieren Herausforderungen

[23.02.2024] Beim vierten Cyber Security Directors‘ Meeting des Bundesamtes für Sicherheit in der Informationstechnik (BSI) diskutierten 26 europäische Cyber-Sicherheitsdirektoren über die Umsetzung neuer EU-Rechtsakte und gemeinsame Strategien gegen IT-Sicherheitsvorfälle. mehr...

Hände halten ein Mobiltelefon mit der AusweisApp und einen Personalausweis.

BSI: Mögliche Schwachstelle im eID-System?

[20.02.2024] Beim Bundesamt für Sicherheit in der Informationstechnik (BSI) ist ein Hinweis auf eine mögliche Schwachstelle im eID-System eingegangen, dem nun nachgegangen wurde. Dabei kam das BSI zu dem Ergebnis, dass die Online-Ausweisfunktion weiterhin eine der sichersten Möglichkeiten des digitalen Identitätsnachweises ist. mehr...

Auf dem Bildschirm eines stilisiert dargestellten hellblauen Laptops wird ein ebenfalls stilisiert dargestelltes E-Learning-Video abgespielt, in dem eine Person etwas erklärt. Hellblau hinterlegte Sprechblasen zeigen ein Vorhängeschloss und einen Schlüssel.

Baden-Württemberg: Lernplattform für Cyber-Sicherheit

[15.02.2024] Mit einer neuen Lernplattform wendet sich die Cyber-Sicherheitsagentur Baden-Württemberg (CSBW) an die Mitarbeiterinnen und Mitarbeiter der Landes- und Kommunalverwaltungen. Sie finden hier kostenlose, vielfältig aufbereitete E-Learning-Angebote rund um das Thema Cyber-Sicherheit. mehr...

Das Bild zeigt NRW-Innenminister Herbert Reul und BSI-Präsidentin Claudia Plattner bei ihrem ersten persönlichen Treffen.

Cyber-Sicherheit: Kräfte bündeln

[09.02.2024] Bei einem Treffen zwischen NRW-Innenminister Herbert Reul und BSI-Präsidentin Claudia Plattner wurde die Bedeutung einer engen Zusammenarbeit für die nationale Cyber-Sicherheit betont. mehr...

Das Bild zeigt das Innere des IT-Lagezentrums mit Personen an Bildschirmen und großen Monitoren an den Wänden.

BSI: Nationales IT-Lagezentrum eingeweiht

[06.02.2024] Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat ein hochmodernes Nationales IT-Lagezentrum in Betrieb genommen und die Initiative „Cybernation Deutschland“ gestartet. Ziel ist es, die Cyber-Sicherheit des Landes zu stärken und Deutschland zum Vorreiter für eine sichere Digitalisierung zu machen. mehr...