KI im öffentlichen Dienst Governance klären, bevor die KI arbeitet

Anbieter zum Thema

Tobit Software AG

Ceyoniq Technology GmbH

SMART CJM GmbH

Omnidocs GmbH

Generative KI ist technisch schnell verfügbar. Im öffentlichen Dienst entscheidet sich ihr Nutzen aber an Regeln, Zuständigkeiten und Kompetenz. Wer Verantwortung, Daten und Kontrolle vor dem Rollout klärt, schafft die Basis für einen sicheren Einsatz.

Generative KI kann heute Texte überarbeiten, Informationen strukturieren, Dokumente auswerten oder Recherchen vorbereiten. Die technische Einstiegshürde ist damit vergleichsweise niedrig. Für Behörden und öffentliche Institutionen beginnt die eigentliche Arbeit jedoch an einer anderen Stelle. Sie müssen festlegen, unter welchen Bedingungen KI Teil regulärer Arbeitsprozesse werden darf. Wer darf sie nutzen? Welche Daten dürfen verarbeitet werden? Wer prüft Ergebnisse? Und wer trägt die Verantwortung, wenn eine plausibel formulierte Antwort falsch ist?

Diese Fragen lassen sich nicht nachträglich an die Technik anhängen. Sie gehören an den Anfang einer KI-Einführung. Gerade im öffentlichen Dienst treffen neue Möglichkeiten auf besondere Anforderungen an Datenschutz, Vertraulichkeit, Nachvollziehbarkeit und fachliche Verantwortung. Deshalb ist die Einführung generativer KI weniger ein klassisches Softwareprojekt als eine Organisationsaufgabe.

Governance beginnt vor dem ersten Prompt

Bevor eine KI-Plattform organisationsweit freigeschaltet wird, sollte klar sein, welche Spielregeln gelten. Dazu gehört zunächst die Frage nach den Daten. Personenbezogene, sensible oder vertrauliche Informationen benötigen einen eindeutig definierten Umgang. Ebenso wichtig ist die technische Betriebsumgebung. Wo werden Daten verarbeitet, welche Modelle kommen zum Einsatz und welche Zugriffe sind vorgesehen?

Datenschutz und Datenhosting sind dabei keine isolierten Prüfpunkte, sondern Teil der Entscheidung darüber, für welche Aufgaben KI überhaupt eingesetzt werden kann. Mindestens ebenso wichtig sind Transparenz und Nachvollziehbarkeit. Mitarbeitende müssen erkennen können, wann sie mit KI arbeiten und welche Rolle das System im jeweiligen Prozess übernimmt. Ein Agent, der einen Text sprachlich überarbeitet, hat eine andere Funktion als ein System, das Informationen für eine fachliche Recherche zusammenträgt. Je näher eine Anwendung an inhaltliche Bewertungen oder Entscheidungen heranrückt, desto klarer müssen Einsatzgrenzen und Kontrollschritte definiert sein.

Ein praktikabler Ansatz besteht darin, Verantwortung nicht an das System zu delegieren. KI kann vorbereiten, strukturieren und Vorschläge liefern. Die fachliche Prüfung und die Letztverantwortung bleiben bei einem Menschen. Das ist besonders wichtig, weil generative KI überzeugend formulieren kann, ohne dass eine Aussage deshalb richtig sein muss. Im öffentlichen Dienst muss daher nicht nur geregelt sein, was eine KI tun darf, sondern auch, wer für ihren Einsatz und ihre Ergebnisse verantwortlich bleibt.

Vier Augen auch für KI-Agenten

Wie konkret solche Regeln werden können, zeigt die Geschäftsstelle des Wissenschaftsrats. Das wissenschaftspolitische Beratungsgremium von Bund und Ländern hat seinen Sitz in Berlin, seine Geschäftsstelle befindet sich in Köln. Dort arbeiten rund 120 Mitarbeitende an Empfehlungen, Sitzungen, Recherchen und umfangreichen Dokumenten. Bei der Einführung generativer KI wurde ein sechsköpfiges Kernteam eingesetzt, begleitet von einer Taskforce mit 22 Mitarbeitenden.

Neue KI-Agenten werden dort nicht beliebig angelegt und unmittelbar freigeschaltet. Dafür ist die Taskforce zuständig. Vor dem produktiven Einsatz prüft eine zweite Person den jeweiligen Agenten. Dieses Vier-Augen-Prinzip soll sicherstellen, dass der Anwendungsfall nachvollziehbar beschrieben ist und definierte Qualitätsstandards eingehalten werden. Auch die Benennung folgt einer einfachen Regel. Agents tragen keine menschlichen Namen, sondern werden nach ihrer Aufgabe bezeichnet. Damit bleibt sichtbar, dass hier ein technisches System und kein digitaler Kollege agiert.

Die Geschäftsstelle orientiert ihren KI-Einsatz an vier Grundprinzipien: Vertraulichkeit, Transparenz, Qualitätssicherung und Verantwortung. KI-generierte Inhalte müssen fachlich geprüft werden. Wo der Einsatz inhaltlich relevant ist, soll er offengelegt werden. Personenbezogene, sensible und vertrauliche Daten sind nach den derzeit geltenden Regeln von der Verarbeitung ausgeschlossen. Entscheidend ist dabei weniger die einzelne Vorgabe als das Zusammenspiel. Governance schafft einen Rahmen, in dem technische Möglichkeiten genutzt werden können, ohne Zuständigkeiten aufzulösen.

Bremen

KI-Strategie mit 39 Projekten beschlossen

(ID:50977197)