Datenstrategie Künstliche Intelligenz: Hype ohne Strategie

Anbieter zum Thema

AW AlgorithmWatch gGmbH

Bundesministerium des Innern

Disy Informationssysteme GmbH

Liferay GmbH

Nortal AG

Ein Jahr nach der Digitalstrategie legt die Ampel-Koalition nach – mit einer Datenstrategie. Ein Aspekt dieser ist der KI-Einsatz in der Verwaltung. Doch was den Service verbessern und Verwaltungsmitarbeitende entlasten soll, stößt vielerorts auf Kritik.

„Fortschritt durch Datennutzen“ – das ist nicht nur der Titel der kürzlich vorgestellten Datenstrategie, sondern auch das dahinterstehende Ziel von BMDV, BMWK und BMI. „Die Datenstrategie 2023 der Bundesregierung legt den Schwerpunkt auf den in Deutschland noch immer stockenden Kulturwandel beim Umgang mit Daten. Damit ist sie weniger eine Maßnahmenliste als ihre nach wie vor gültige Vorgängerin“, erklärte Bundes-CIO Dr. Markus Richter diesbezüglich. Hierzu zeichne sie Wege vor, hin zu mehr Daten, besseren Daten und vor allem einer Kultur und Routine des gemeinsamen und dennoch verantwortungsbewussten Teilens von Daten.

Das Thema, das dabei am meisten Aufmerksamkeit generierte: der Einsatz von Künstlicher Intelligenz. „KI-Technologien müssen und werden hier eine immer größere Rolle spielen, werden durch mehr und bessere Daten ihrerseits besser werden, und das muss in ähnlicher Form auch jenseits des Verwaltungshandelns geschehen“, so Richter. „Wir prüfen, ob und inwieweit LLMs in der öffentlichen Hand sinnvoll und unter Wahrung des Datenschutzes zum Einsatz kommen sollten“, heißt es dazu in der Strategie.

Das Problem? „Mit der Datenstrategie wurde der Moment verpasst, konkrete Vorhaben anzustoßen, die einheitliche Anforderungen für den Einsatz von KI-Systemen in der Öffentlichen Verwaltung in Aussicht stellen würden. Dass bereits heutzutage automatisierte Systeme in der Verwaltung zum Einsatz kommen und dafür weder einheitliche Anforderungen noch Transparenzvorgaben etabliert sind, fällt in der Strategie gänzlich unter den Tisch“, so Pia Sombetzki, Policy & Advocacy Managerin bei AlgorithmWatch. „Selbst der Bundesrechnungshof hatte im März diesen Jahres festgestellt, dass kaum eine Behörde Strategien oder Konzepte für den Einsatz von KI vorhält und der Einsatz größtenteils ‚nicht planvoll’ vorbereitet wird.“

Zum Einsatz kommt Künstliche Intelligenz beispielsweise in Frankfurt am Main, um Bauanträge schneller zu verarbeiten, in Berlin zur Verkehrsüberwachung und -steuerung und in Hamburg für eine effizientere Müllentsorgung und Straßenreinigung – alles recht unverfängliche Anwendungen. Doch eine Kleine Anfrage von Anke Domscheit-Berg, digitalpolitische Sprecherin der Linksfraktion, zeigt, dass oftmals eben nicht transparent mit den Systemen umgegangen wird. „Zum Einsatz von KI-Systemen in sämtlichen Sicherheitsbehörden verweigert die Bundesregierung die Aussage, obwohl die Missbrauchsgefahren und Risiken hier besonders hoch sind“, erklärte sie dazu. „Die geplante EU-KI-Verordnung klassifiziert den Einsatz von KI in der Strafverfolgung als Hochrisiko-Bereich, für den hohe Anforderungen gelten, z.B. hinsichtlich der Bewertung und Minimierung von Risiken, der Qualität der Datensätze, der Dokumentation des Einsatzes und der Information der Nutzer. Es ist verantwortungslos und demokratiegefährdend, jegliche Transparenz dazu zu verweigern.“

Das bestätigt auch die Petition „Künstliche Intelligenz: Die Zeit ist knapp! – Für verantwortungsbewusste KI-Entwicklung!“: „Ich unterschreibe, weil es mir auch Sorgen macht, dass KI außer Kontrolle bzw. in die falschen Hände geraten und großen Schaden anrichten – und sogar die Demokratie gefährden – könnte“ und „KI ist ein zweischneidiges Schwert, das in den falschen Händen Orwells Albträume in den Schatten stellen kann. Darum muss es klare Regeln und Grenzen für die Anwendung geben“, heißt es von Seiten der Unterzeichnenden. Entsprechende Ängste müssen ernstgenommen werden.

Ähnlich sieht es auch Sombetzki: „Für den vertrauenswürdigen Einsatz von KI in der Verwaltung bedarf es einheitlicher Anforderungen und klaren Regelungen dazu, wer an welcher Stelle die Verantwortung trägt.“ Es müsse transparent sein, zu welchem Zweck die Systeme eingesetzt werden, welchen Einfluss sie auf die Entscheidungsfindung im Einzelfall haben und welche Prüfungen, mit welchen Ergebnissen ein System durchlaufen hat, bevor es eingesetzt wurde. „Zu klären, wäre beispielsweise, inwiefern ein automatisiertes System, das Texte verarbeiten soll, auf stereotype Verzerrungen hin überprüft wurde. Solche Informationen sollten öffentlich, beispielsweise über ein KI-Transparenzregister bereitgestellt werden. Nur so kann öffentliche Aufsicht über den Einsatz von KI-Systemen in der öffentlichen Verwaltung überhaupt erst möglich gemacht werden.“

„Es braucht keinen Hype, sondern ein strukturiertes Vorgehen, was ein Mindestmaß an Kompetenz zu KI in Bundesbehörden voraussetzt“, schließt Domscheit-Berg.

(ID:49723117)