gesponsertKI regelkonform, sicher und verantwortungsvoll einsetzen AI Security Governance im gesamten Lebenszyklus integrieren

Mit zunehmender Digitalisierung gewinnt der Einsatz von Künstlicher Intelligenz (KI) auch bei öffentlichen Institutionen an Bedeutung. Neben zahlreichen Effizienz-Vorteilen und neuen Funktionen bringt KI aber auch Herausforderungen im Bereich Sicherheit und Governance mit sich.

Als IT-Dienstleister mit jahrelanger Erfahrung im öffentlichen Sektor unterstützt Computacenter Ämter und Behörden dabei, die spezifischen Anforderungen zu erfüllen. Denn von Beginn an wird AI Security Governance in die KI-Anwendungen integriert. Beispielsweise müssen in der Justiz Anklageschriften und Antworten der Gegenpartei bei Massenklagen abgeglichen werden. Zur Beantwortung von Anfragen in Parlamenten sind viele Datensätze zu sichten und auszuwerten: Diese Anwendungsfälle zeigen beispielhaft, wie KI die öffentliche Hand unterstützen kann, sich wiederholende Routine-Abläufe durch Automatisierung effektiver und effizienter zu erledigen. Doch wer KI einsetzt, muss sie auch vorschriftsgemäß, sicher und verantwortungsvoll nutzen – und dies gewissenhaft prüfen.

Voraussetzungen für den effizienten und sicheren Einsatz von KI

Damit Behörden beim Einsatz von KI auf der sicheren Seite sind, müssen sie folgende Punkte neben solchen wichtigen Aspekten wie Datenklassifizierung und Cybersicherheit für KI beachten:

• Die Einhaltung regulatorischer Anforderungen, wie die Einstufung in Bezug auf den EU AI Act und die Datenschutzgrundverordnung, ist unerlässlich, um rechtskonform zu agieren.

• Qualitätsanforderungen an KI-Systeme sind klar zu definieren und umzusetzen. Daten, die zum Training verwendet werden, müssen repräsentativ und frei von Verzerrungen sein, um sinnvolle und verwertbare Ergebnisse zu erhalten.

• Im Bereich Governance ist eine klare und durchsetzungsfähige Organisationsstruktur, die Rollen und Verantwortlichkeiten eindeutig definiert, entscheidend. Dazu gehören auch Verantwortliche für die Überwachung und Umsetzung von KI-Strategien sowie ein Gremium, das die Einhaltung der Richtlinien regelmäßig überprüft und anpasst.

• Ein kontinuierliches Monitoring stellt sicher, dass vorurteilsbehaftete Antworten, falsche Zusammenhänge oder KI-Halluzinationen rechtzeitig erkannt werden. Kennzahlen geben Hinweise auf eine unerwünschte Drift der KI.

• Für eine hohe Vertrauenswürdigkeit müssen Einsatz, Einstufung und Ergebnisse der KI nachvollziehbar sein. Hierzu sind umfassende Dokumentationen notwendig und auf Nachfrage vorzuweisen.

AI Security Governance über den gesamten Lebenszyklus hinweg

Das Potenzial von KI ist enorm – doch ohne systematische AI Security Governance gibt es hohe Risiken. Computacenter berücksichtigt diese im gesamten Lebenszyklus Ihrer Lösung. Wir entwickeln ein auf die spezifischen Anforderungen Ihres KI-Anwendungsfalls zugeschnittenes Governance Framework und integrieren AI Security Governance nahtlos in Ihr bestehendes Informationssicherheitsmanagementsystem (ISMS).

Wir richten den Fokus neben den rein technologischen Themen auch auf Regularien sowie Qualitätsanforderungen und unterstützen unsere Kunden dabei, eine passende Lösung zu formulieren – inklusive kontinuierlicher Überwachung und Aktualisierung. Entsprechende Dokumentationen werden bei Bedarf erstellt – entweder automatisiert oder per Fragebogen – und ermöglichen so eine Auditierbarkeit.

Indem wir Security-KPIs im Auge behalten, erkennen wir frühzeitig unerwünschte Verhaltensweisen der KI und ergreifen geeignete Maßnahmen. Dies trägt zur langfristigen Stabilität und Sicherheit Ihrer KI-Systeme bei, minimiert das Risiko rechtlicher Konsequenzen und sichert Ihre Reputation.So können Sie sicher und regelkonform von den Vorteilen der KI profitieren.

Der Autor: Ralf Nemeyer, Solution Manager bei Computacenter

(ID:50138744)