19. Deutscher IT-Sicherheitskongress BMI will schärferes Schwert bei Cyberabwehr schwingen als von EU gefordert

Anbieter zum Thema

GISA GmbH

Governikus GmbH & Co. KG

Liferay GmbH

Aufgrund der stetig wachsenden Leistungsfähigkeit und den Missbrauchsmöglichkeiten von Sprachmodellen und Künstlicher Intelligenz im Speziellen fordert das BMI mehr Handlungsspielraum und die Transformation des BSI hin zu einer Zentralstelle der Cyber-Abwehr. Welche Möglichkeiten der Einsatz von KI in der Öffentlichen Verwaltung eröffnet und welche Pflichten dabei zu beachten sind.

Im Rahmen des 19. Deutschen IT-Sicherheitskongresses, bei dem Bundesinnenministerin Nancy Faeser ein Grußwort an das anwesende Fachpublikum richtete, informierten Gerhard Schabhüser, Vizepräsident des Bundesamtes für Sicherheit in der Informationstechnik (BSI), und Andreas Könen, Abteilungsleiter CI „Cyber- und IT-Sicherheit“ des Bundesministeriums des Innern und für Heimat (BMI), zum Thema KI und ein aktuelles Papier zu KI-Sprachmodellen. Schwerpunkte waren die Chancen und Möglichkeiten, aber auch die Risiken beim Einsatz von Sprachmodellen und Künstlicher Intelligenz.

Grundsätzlich würden die technischen Fortschritte immer schneller erfolgen, so Gerhard Schabhüser, und man müsse auf den „Machine Speed“, also das – im Rahmen der gesetzten Möglichkeiten – eigenständige Erlernen von Routinen und Handlungsstrategien durch KI-Software, vertrauen. „Die Möglichkeiten der Anwendung von KI, insbesondere auch in der Öffentlichen Verwaltung sind sehr breit gefächert“, führte Schabhüser weiter aus.

Ein Einsatz von KI im Verwaltungsapparat sei weder zu begrüßen noch kategorisch abzulehnen. Man müsse penibel darauf achten, solche KI-Modelle nicht ohne ein gewisses Set an Grundregeln mit den Bürgerinnen und Bürgern in Kontakt treten zu lassen. Eine vorherige Risikoanalyse sei nicht nur sinnvoll, sondern sogar eminent wichtig, pflichtete Könen bei. Schließlich dürfe man das Vertrauen der Anwenderinnen und Anwender durch etwaige Falschinformationen nicht nachhaltig stören.

Aus diesem Grund sei es empfehlenswert, den Leistungsumfang einer in der Verwaltung eingesetzten KI zu beschränken wird und dafür Sorge zu tragen, dass stets einwandfreie, rechtssichere und vor allem gleichbleibend reproduzierbare Ergebnisse durch sie erzielt werden können. Darüber hinaus müsse zu jedem Zeitpunkt unmissverständlich nachvollziehbar sein, ob mit einer realen Person oder einer KI kommuniziert wird, hängte Schabhüser an.

Das BSI soll über föderale Grenzen hinaus operieren dürfen

„Die mediale Aufmerksamkeit sowie die ständig steigende Nutzerfreundlichkeit von Künstlichen Intelligenzen öffnen jedoch auch Missbrauch Tür und Tor“, sagt Gerhard Schabhüser. Der Werkzeugkasten der Kriminellen wachse Tag für Tag und es entwickele sich bei der Bekämpfung dieser ein regelrechtes Wettrüsten.

„Das Vertrauen in die Authentizität von Bild-, Audio- und Videomaterial ist schon jetzt nachhaltig beschädigt und darf nicht noch mehr verloren gehen“, so der Vizepräsident des BSI. Das Katz-und-Maus-Spiel mit den Entwicklern von Schadsoftware werde sich in der nächsten Zeit mit Sicherheit intensivieren. Aus diesem Grund sei es einerseits notwendig, dass das BSI über die föderalen Grenzen hinweg operieren kann und vor allem darf und andererseits die Bevölkerung dementsprechend sensibilisiert werde, nicht alles Gesehene und Gehörte bedingungslos für bare Münze zu nehmen.

„Daher werden wir schnellstmöglich gesetzliche Rahmenbedingungen schaffen, die es uns ermöglichen, das BSI als Zentralstelle analog dem Bundeskriminalamt (BKA) zu installieren“, führte Andreas Könen weiterhin aus. Auf Nachfrage wurde versichert, dass keine Kompetenzverschiebung von Landes- auf Bundesebene stattfinden wird. Man wolle darüber hinaus mittelfristig einen schärferen Maßnahmenkatalog umsetzen als auf europäischer Ebene gefordert. Auch eine Filtermöglichkeit um Inhalte, die unter Zuhilfenahme von Künstlicher Intelligenz erschaffen wurden, sei in Planung.

19. Deutscher IT-Sicherheitskongress

Cyberangriffe auf Kommunen: Faeser wirbt für Grundgesetzänderung

(ID:49439992)