BSIKI verändert Cyber-Bedrohungen
In einem aktuellen Forschungsbeitrag hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) untersucht, wie sich Künstliche Intelligenz (KI) auf die Cyber-Bedrohungslage auswirkt. Dazu werden zunächst KI-gestützte Anwendungen identifiziert, die schon heute für den offensiven Einsatz zugänglich sind. Anschließend bewertet der Bericht, wie sich diese Bedrohungen in naher Zukunft entwickeln könnten. So senkt generative KI nach Einschätzung des BSI die Einstiegshürden für Cyber-Angriffe und erhöht Umfang, Geschwindigkeit und Schlagkraft schadhafter Handlungen im digitalen Raum. Dies gelte vor allem für die großen Sprachmodelle (Large Language Models – das bekannteste ist ChatGPT). Neben allgemeinen Produktivitätsgewinnen für böswillige Akteure stellt das BSI derzeit eine maligne Nutzung vor allem im Bereich des Social Engineering und bei der Generierung von Schadcode fest.
Automatisierte Cyber-Angriffe sind möglich
KI ermöglicht es Angreifenden mit geringsten Fremdsprachenkenntnissen, qualitativ hochwertige Phishing-Nachrichten zu erstellen: Herkömmliche Methoden zur Erkennung betrügerischer Nachrichten wie die Prüfung auf Rechtschreibfehler und unkonventionellen Sprachgebrauch reichen zur Erkennung von Phishing-Angriffen damit nicht mehr aus. Einen Schritt weiter als die Unterstützung von Cyber-Angriffen, die durch Menschen ausgeführt werden, geht die Erstellung von Malware durch KI: Große Sprachmodelle sind bereits heute in der Lage, einfachen Schadcode zu schreiben. Darüber hinaus existieren erste Proofs of Concept, nach denen KI für die automatische Generierung und Mutation von Malware eingesetzt werden kann. Allerdings sind bösartige KI-Agenten, die vollkommen eigenständig IT-Infrastrukturen kompromittieren können – also Künstliche Intelligenz, die zur vollständigen Angriffsautomatisierung führt –, aktuell nicht verfügbar und werden mit hoher Wahrscheinlichkeit auch in naher Zukunft nicht verfügbar sein. Allerdings ist KI bereits heute in der Lage, Teile eines Cyber-Angriffs zu automatisieren.
Auch der Cyber-Abwehr hilft KI
Allerdings profitieren nicht nur Angreifer, sondern auch Cyber-Verteidiger von allgemeinen Produktivitätssteigerungen durch den Einsatz von KI. Darauf hatte die BSI-Präsidentin bereits im April bei der ersten Digitalministerkonferenz in Potsdam hingewiesen. Mögliche Einsatzbereiche von KI seien etwa die Codegenerierung, die Analyse von Quellcode auf Schwachstellen, die Detektion von Malware oder das Erstellen von Lagebildern. Es komme darauf an, mit den Angreifenden Schritt zu halten, sagt die BSI-Präsidentin Claudia Plattner. Das bedeute schneller zu patchen, IT-Systeme zu härten und nahende Angriffe noch früher als bisher zu erkennen. „Dabei hilft KI uns heute schon. Insbesondere für Open-Source-Projekte wird es von entscheidender Bedeutung sein, KI-Tools proaktiv zu nutzen, bevor böswillige Akteure dies tun. Des Weiteren ist es mit Blick auf den Fachkräftemangel maßgeblich, dass Wirtschaft, Wissenschaft und Politik ihre Kompetenzen bündeln – über Landes- und Ländergrenzen hinweg“, so Plattner.
Wie Künstliche Intelligenz im Detail die Cyber-Abwehr unterstützen kann, will die jetzt publizierte BSI-Untersuchung im Rahmen einer Fortschreibung thematisieren. In einer weiteren Untersuchung, die bereits vorliegt, informiert das BSI über Chancen und Risiken generativer KI-Sprachmodelle für Industrie und Behörden.
• BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden
SEP: Schutz vor Datenverlust
[16.05.2024] Die Back-up- und Recovery-Software SEP sesam sichert geschäftskritische Daten und erfüllt Compliance-Anforderungen. Mit speziellen Lösungen für Behörden bietet SEP ein umfassendes, plattformunabhängiges und DSGVO-konformes Back-up-System. mehr...
Bundeswehr: Electronic Knee Boards für Piloten
[15.05.2024] Die Luftwaffe ersetzt herkömmliche Pilotenhandbücher durch Electronic Knee Boards, die vertrauliche Daten mit der sicheren Container-Lösung SecurePIM von Materna Virtual Solution schützen. mehr...
Baden-Württemberg: Chefin für Cybercrime-Zentrum
[14.05.2024] Die baden-württembergische Justizministerin Marion Gentges hat Ministerialrätin Tomke Beddies zur Leiterin des neuen Cybercrime-Zentrums Baden-Württemberg ernannt. mehr...
Cyber-Kriminalität: Bedrohungslage bleibt hoch
[14.05.2024] Die Bundesregierung und die Sicherheitsbehörden präsentieren das Bundeslagebild Cybercrime für das Jahr 2023. Die Zahlen zeigen einen besorgniserregenden Anstieg der Internet-Kriminalität in Deutschland. mehr...
Cyber-Sicherheit: Umsetzung der NIS2-Richtlinie
[08.05.2024] Bundesinnenministerin Nancy Faeser hat einen neuen Gesetzentwurf vorgelegt, mit dem das deutsche IT-Sicherheitsrecht umfassend modernisiert werden soll. Das Gesetz, das auf der EU-Richtlinie NIS2 basiert, sieht strengere Sicherheitsanforderungen und Meldepflichten für ein breiteres Spektrum von Unternehmen vor. mehr...
Brandenburg: Tätigkeitsbericht zum Datenschutz
[08.05.2024] Der Tätigkeitsbericht der brandenburgischen Landesbeauftragten für den Datenschutz und für das Recht auf Akteneinsicht liegt vor. Zu den Schwerpunktthemen gehören unter anderem Künstliche Intelligenz, die datenschutzrechtliche Bewertung von Facebook-Fanpages sowie die Aufarbeitung des Cyber-Angriffs auf die Stadt Potsdam im Dezember 2022. mehr...
Hessen/Bund: Cyber-Abwehr neu strukturieren?
[02.05.2024] Das Hessische CyberCompetenceCenter – Hessen3C – besteht seit fünf Jahren. Aus diesem Anlass stattete Innenminister Roman Poseck dem ihm unterstellten Kompetenzzentrum einen Besuch ab. Dabei äußerte er sich auch über eine mögliche Neuaufstellung der bundesweiten Cyber-Abwehr. mehr...
Sachsen: Schutz digitaler Bibliotheksbestände
[29.04.2024] Mit einer neuen, bedrohungsorientierten Firewall schützt die Sächsische Landesbibliothek – Staats- und Universitätsbibliothek Dresden (SLUB) ihre digitalen Sammlungen vor Cyber-Angriffen. Auch ein VPN Client wurde installiert, der die Arbeitsumgebung der Mitarbeiterinnen und Mitarbeiter im Homeoffice schützt. mehr...
Datenschutzgesetz: Kritik der Datenschutzkonferenz
[23.04.2024] Die Datenschutzkonferenz der Länder kritisiert in einer aktuellen Stellungnahme den Entwurf zur Änderung des Bundesdatenschutzgesetzes. Sie fordert klarere Regelungen zum Schutz von Betriebsgeheimnissen, strengere Regeln für das Scoring und eine stärkere Kontrolle bei länderübergreifenden Datenverarbeitungen. mehr...
Bayern: Zero Trust im Behördennetz
[12.04.2024] Einen Fahrplan für die sukzessive Einführung einer Zero-Trust-Architektur im Bayerischen Behördennetz hat das Landesamt für Sicherheit in der Informationstechnik (LSI) gemeinsam mit dem Fraunhofer-Institut AISEC aufgestellt. mehr...
Cyber-Sicherheit: Dezentrale IT-Sicherheit als Schlüssel
[08.04.2024] Die deutschen Bundesländer sollen im Kampf gegen Cyber-Bedrohungen stärker zusammenarbeiten. Die dezentrale Struktur und die schnelle Kommunikation seien entscheidend für den Schutz Kritischer Infrastrukturen und staatlicher IT-Systeme, so Bayerns Finanz- und Heimatminister Albert Füracker. mehr...
BSI: Schwachstellen im Exchange Server
[29.03.2024] Eine Untersuchung des Bundesamts für Sicherheit in der Informationstechnik (BSI) zeigt, dass in Deutschland mindestens 17.000 Microsoft Exchange Server durch kritische Sicherheitslücken gefährdet sind. Das BSI ruft zur sofortigen Aktualisierung und sicheren Konfiguration der Systeme auf. mehr...
Interview: Ultramobiles Arbeiten mit BSI-Siegel
[27.03.2024] Mit dem indigo-Konzept von Apple können auch Behörden iPhones und iPads sicher nutzen. Materna Virtual Solution unterstützt seine Kunden dabei mit einem eigenen Kompetenz-Center und speziell entwickelten Lösungen. move-online sprach darüber mit Christian Schumer, CEO & Senior Vice President Sales von Materna Virtual Solution. mehr...
BSI: Neuer Mindeststandard für Browser
[21.03.2024] Das BSI hat den Mindeststandard für Webbrowser aktualisiert, die in der Bundesverwaltung, aber auch in Ländern und Kommunen zum Einsatz kommen. In seiner aktuellen Fassung berücksichtigt der Mindeststandard nun auch Anforderungen für Browser, die mobil eingesetzt werden. mehr...