Warum Secure-by-Design Vertrauen schafft KI in der Verwaltung sicher gestalten

Anbieter zum Thema

Ceyoniq Technology GmbH

mgm technology partners GmbH

SMART CJM GmbH

Künstliche Intelligenz modernisiert die Verwaltung, doch durch sie entstehen auch neue Angriffsflächen. Secure-by-Design, NIS-2-Konformität und klare Prozesse schützen sensible Daten und stärken das Vertrauen der Bürger in digitale Behördendienste, meint unser Gastautor Okay Güler.

Die öffentliche Verwaltung wird immer digitaler und setzt dabei zunehmend auch auf künstliche Intelligenz (KI). KI beschleunigt Abläufe, entlastet Mitarbeitende und macht Prozesse effizienter. Gleichzeitig greift sie tief in Verwaltungsverfahren ein, verarbeitet sensible Daten und vergrößert die Angriffsfläche der IT. Damit steigt auch die Verantwortung der Behörden für einen sicheren und kontrollierten Betrieb.

Ob Bürgerinnen und Bürger digitalen Verwaltungsleistungen vertrauen, hängt maßgeblich von der Sicherheit, Transparenz und Nachvollziehbarkeit der Systeme ab. Sicherheitsvorfälle oder intransparente Entscheidungen gefährden dieses Vertrauen – auch über einzelne Anwendungen hinaus. Wer KI nachhaltig einsetzen will, muss Sicherheit von Anfang an in die System- und Datenarchitektur einbauen. Das Prinzip Secure-by-Design schafft dafür die Grundlage. Es verbindet Effizienz, Rechtskonformität und gesellschaftliche Akzeptanz.

KI steigert Effizienz und verändert die Risikolage

Künstliche Intelligenz entfaltet ihren Nutzen vor allem in der operativen Praxis: Sie unterstützt Fachkräfte bei der Bearbeitung großer Fallzahlen, priorisiert Anträge, strukturiert umfangreiche Datenbestände und beschleunigt Prüf- und Entscheidungsverfahren. Dabei wird sie eng in bestehende Prozesse integriert – mit Folgen für die IT-Sicherheit.

In der Realität treffen KI-Systeme auf gewachsene IT-Strukturen mit vielen Schnittstellen, unterschiedlichen Sicherheitsniveaus und langen Lebenszyklen. Neue Komponenten wie Datenaufbereitung, Modelltraining und -verwaltung bringen zusätzliche Risiken mit sich: unklare Zuständigkeiten, unsichere Schnittstellen oder fehlende Zugriffsregeln.

Cybersecurity für den deutschen Staat

Cyber-Schutzschild: Niedersachsen investiert 30 Millionen Euro

Sicherheit muss deshalb Teil der Gesamtarchitektur sein. Die Verwaltung braucht ein Sicherheitsverständnis, das Fachverfahren, Datenflüsse, Betriebsmodelle und Zuständigkeiten gemeinsam betrachtet. Das Prinzip Secure-by-Design setzt genau hier an: Sicherheitsentscheidungen beginnen in der Konzeption und begleiten den gesamten Lebenszyklus der KI-Anwendung.

Secure-by-Design als Leitprinzip

Secure-by-Design verankert Sicherheitsanforderungen direkt in Planung, Umsetzung und Betrieb. Behörden führen also technische, organisatorische und rechtliche Vorgaben frühzeitig zusammen und schaffen damit eine konsistente Architektur, die Sicherheit nicht als nachgelagerten Schritt behandelt, sondern als integralen Bestandteil jeder KI-Anwendung begreift.

Damit dieser Ansatz in der Praxis funktioniert, braucht es einen belastbaren Rahmen, der den vertrauenswürdigen und kontrollierten Einsatz von KI in der Verwaltung ermöglicht. Vier Bausteine sind dafür besonders wichtig:

Klare Zuständigkeiten: Fachabteilungen nutzen die KI für ihre Tätigkeiten, zentrale IT-Teams verantworten den technischen Betrieb. Rollen und Berechtigungen sind eindeutig definiert. Zugriffe beschränken sich auf das Notwendige.

Daten- und Zugriffsschutz: Trainingsdaten, Modelle und administrative Funktionen sind technisch voneinander getrennt. Das schafft Transparenz und verringert Sicherheitsrisiken im laufenden Betrieb.

Sichere Kommunikation: Daten werden bei Übertragung und Speicherung verschlüsselt. Netzwerksegmente isolieren kritische Komponenten gezielt, um Angriffsflächen zu minimieren.

Nachvollziehbarkeit: Entwicklungs-, Test- und Produktivumgebungen sind sauber getrennt. Das stärkt die Integrität der Systeme, erleichtert Prüfungen und macht Änderungen jederzeit nachvollziehbar.

Neue Anforderungen für sichere Systeme

Die europäische NIS-2-Richtlinie konkretisiert Anforderungen an die Cybersicherheit. Sie verpflichtet Behörden unter anderem zu Risikomanagement, Zugriffskontrollen und einem sicheren Umgang mit Dienstleistern.

KI-Systeme gelten dabei oft als kritische Infrastruktur. Secure-by-Design hilft, diese Anforderungen praktisch umzusetzen:

• Risiken von KI-Komponenten werden früh bewertet.

• Abhängigkeiten von Datenquellen und Plattformen werden systematisch erfasst.

• Schutzmaßnahmen werden in die Architektur eingebettet.

• Sicherheitsereignisse werden dokumentiert und kontinuierlich überwacht.

Zudem fordert NIS-2 Transparenz: Behörden müssen offenlegen, welche Daten sie für Training und Betrieb nutzen, wie Modelle aktualisiert werden und wer Zugriff erhält. Auch Meldepflichten und strukturierte Reaktionsprozesse gewinnen an Bedeutung. Secure-by-Design integriert diese Vorgaben in bestehende Sicherheits- und Governance-Strukturen.

(ID:50693299)