Mobile-Menu

Leitfaden für sichere KI-Systeme Künstliche Intelligenz: Security by Cooperation

Von Chiara Maurer 2 min Lesedauer

Anbieter zum Thema

Bundesamt für Sicherheit i.d.Informationstechnik
G DATA CyberDefense AG
Materna Information & Communications SE
genua gmbh

Um Künstliche Intelligenz und besonders ihre Potenziale und Fallstricke ranken zahlreiche Diskussionen. Internationale Cybersicherheitsbehörden haben nun einen Leitfaden veröffentlicht, durch den einerseits Gefahren minimiert, andererseits Risiken gegenüber Nutzern klarer kommuniziert werden sollen.

Ziel des Leitfadens ist es, eine zuverlässige Zusammenarbeit mit der KI zu ermöglichen.(© RyanKing999 – Getty Images via Canva.com)
Ziel des Leitfadens ist es, eine zuverlässige Zusammenarbeit mit der KI zu ermöglichen.
(© RyanKing999 – Getty Images via Canva.com)

Die Potenziale Künstlicher Intelligenz (KI) wurden mittlerweile vielfach diskutiert, nun haben die Partnerbehörden des BSI aus Kanada und den USA einen Leitfaden zur Entwicklung sicherer KI Systeme veröffentlicht, an dem auch das BSI selbst mitgewirkt hat.

Egal ob die Technologien Vorhersagen zum Klima oder zu Finanzmärkten bieten, automatisiert medizinische Diagnosen treffen oder in (teil-)autonomen Fahrzeugen eingesetzt werden soll – im Dokument „Guidelines for Secure AI System Development“ (dt. „Richtlinien zur Entwicklung sicherer KI-Systeme“) listet die Behörde Leitlinien, die KI-Entwickler und -Betreiber in Zukunft dabei helfen sollen, unbedenkliche und zuverlässige Systeme zu entwickeln, die so nicht nur sicher geplant und entwickelt, sondern auch sicher eingeführt und betrieben werden.

Konkret erklärt das BSI dazu, dass Systeme so jederzeit bei Bedarf verfügbar sein müssen und erwartungsgemäß arbeiten. Zudem habe auch die Sicherheit und Wahrung sensibler personenbezogener Daten stets Priorität.

Dazu bietet das Dokument einen Überblick über KI-spezifische Schadensanfälligkeiten und erklärt, wie diese in Kombination mit bestehenden Prinzipien wie „security-by-design“ und „security-by-default“ bei der Entwicklung berücksichtigt werden können. Die Cybersicherheitsbehörden fordern außerdem, dass Betreiber dieser Systeme ihre Anwenderinnen und Anwender über potenzielle Gefahren informieren, da diese darüber bisher in den meisten Fällen unaufgeklärt sind.

Potenziale nutzen

Für das BSI ist die gemeinsame Veröffentlichung ein wichtiger Schritt bei der Lösung von Problemen und dem Entgegenwirken von Unsicherheiten im Umgang mit KI. Denn, so heißt es von Seiten der Behörde, Fragen der Sicherheit von KI-Systemen könnten nur im Verbund mit gleichgesinnten internationalen Partnern gelöst werden. Insgesamt unterstützen 23 internationale Cybersicherheitsbehörden aus 18 Ländern den Leitfaden. „Das BSI gestaltet die Cybersicherheit bei der Entwicklung von KI-Systemen von Anfang an mit. So können wir sicherstellen, dass wir die Potenziale dieser Schlüsseltechnologie für die Digitalisierung Deutschlands sicher nutzen und Risiken transparent kommunizieren. Bei den Nutzerinnen und Nutzern sorgt das für mehr Vertrauen und insgesamt für eine höhere Cyberresilienz der Gesellschaft. Ich freue mich, dass wir international dafür an einem Strang ziehen“, so Claudia Plattner, Präsidentin des BSI.

(ID:49844238)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte