BSI-Papier sensibilisiert für Auswirkung der KI-Entwicklungen auf die Cybersicherheit von Organisationen

Durch die Entwicklungen im Bereich der Künstlichen Intelligenz (KI) hat sich die Cybersicherheitslage grundlegend verändert. Zur Stärkung von Resilienz und Prävention sind auch in kommunalen Einheiten neue Anforderungen an die Reaktionsgeschwindigkeiten zu stellen. Vor dem Hintergrund der sich verändernden Bedrohungslage hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) das Papier „Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz“ veröffentlicht, das sensibilisieren möchte und erste Maßnahmen benennt, um die jeweilige Organisation besser zu schützen.

Das BSI unterstreicht mit dem Papier sehr deutlich, dass KI in der Lage ist, Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten maßgeblich zu senken. Damit einher geht eine strukturelle Veränderung der Cyberbedrohung, von der insbesondere die Angreiferseite durch Geschwindigkeit, Skalierung und Automatisierung maßgeblich profitiert. Die Bedrohten wiederrum bleiben an die, wie das BSI formuliert, „realen Betriebsgrenzen“ gebunden (Testaufwand, Freigabeprozesse, Wartungsfenster für Patches, Herstellerabhängigkeiten, rechtliche und organisatorische Abstimmungen sowie begrenzte personelle Kapazitäten) und geraten damit unvermeidlich gegenüber den Angreifern ins Hintertreffen. Um trotz dieser Hürden Schritt zu halten, empfiehlt das BSI, die Angriffsfläche grundsätzlich zu minimieren. In diesem Prozess sollte die Entwicklung im Bereich KI nicht nur als technologischer Trend, sondern als operative und strategische Veränderung der Cybersicherheitslage verstanden werden.

Veränderung bei der Reaktionsgeschwindigkeit notwendig

Das BSI empfiehlt den Sicherheitsverantwortlichen für Informationstechnologien (IT), sich schnellstmöglich einen Überblick über die Angriffsfläche ihrer Organisation und die daraus resultierenden Bedrohungen für die eigene Infrastruktur zu verschaffen. Dabei betont das BSI, dass angemessene Reaktionsgeschwindigkeiten beim Patchmanagement bei maximal wenigen Stunden liegen dürften, um Schwachstellen zu sichten, zu bewerten und gegebenenfalls benötigte Patches auszurollen.

Auch unterstreicht das BSI seine Ansicht, dass es keine Frage mehr sei, ob ein System angegriffen werde, sondern wann. Vor diesem Hintergrund müssen die Systeme kontinuierlich auf mögliche hinterlassene, persistente Malware überprüft und bereinigt werden.

KI auch im Bereich von Social-Engineering eine Bedrohung

Nicht zuletzt warnt das BSI davor, dass öffentlich verfügbare Informationen von Webseiten und Social Media als Grundlage für personalisierte Angriffe verwendet werden können. Der Einsatz von KI reduziert den Aufwand für Angreifer deutlich und ermöglicht eine Automatisierung.

KI-Systeme selbst als Einfallstor

Neben der missbräuchlichen Nutzung von KI durch Angreifer erweitern KI-Systeme selbst die Angriffsfläche von IT-Umgebungen. Auch KI-Komponenten müssen daher durch geeignete Schutzmaßnahmen, Isolation, Validierungsschichten und Berechtigungskonzepte abgesichert werden.

Das BSI benennt in seinem Papier über die Hintergrundinformationen hinaus konkrete Hinweise zu erforderlichen Maßnahmen:

• Angriffsfläche kennen und minimieren.

• Patchmanagement verbessern und effizienter gestalten.

• Detektion und Vorfallsbearbeitung ausbauen.

• Standard-Maßnahmen (u. a. IT-Grundschutz) umsetzen.

Anmerkung

Aus Sicht der kommunalen Spitzenverbände sind die Empfehlungen des BSI wichtig und nachvollziehbar, gehen zumindest aber an den kommunalen Umsetzungsrealitäten vorbei. Das erforderliche Schutzniveau kann keine kommunale Einheit allein auf sich gestellt erreichen. Die Entwicklungen im Bereich der Künstlichen Intelligenz, die ein noch schnelleres Vorgehen zur Abwehr und Prävention von Cyberangriffen als bisher erfordern, unterstreicht noch einmal, dass die Kommunen unter dieser Bedrohungslage ihre Bürgerinnen und Bürger, ihre Verwaltungen und die kritischen Infrastrukturen allein nicht ausreichend resilient aufstellen können.

Die Tatsache, dass der IT-Grundschutz – dessen Umsetzung auch das hier besprochene BSI-Papier einfordert – aufgrund von Kapazitätsmangel bisher nur in ausgewählten Großstädten und IT-Verbünden umgesetzt wurde, zeigt, vor welchem Dilemma wir ohne und mit KI in der Cybersicherheit in Städten und Gemeinden stehen.

Das Papier des BSI „Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz“ ist hier zu finden.

Quelle: DStGB Aktuell Nr. 2726-05 vom 3. Juli 2026