Governance vor Automatisierung Agentische KI in der öffentlichen Verwaltung

Anbieter zum Thema

Hyland Software Germany GmbH

Materna Information & Communications SE

Mein Videotermin Suite | Voigtmann GmbH

veenion GmbH

Automatisierung ohne Governance ist wie ein Sachbearbeiter ohne Zuständigkeiten: Sie mag funktionieren, aber niemand weiß, wer verantwortet, was passiert. Warum die öffentliche Verwaltung beim Einsatz agentischer KI-Systeme erst die Governance-Strukturen schaffen muss.

Die öffentliche Verwaltung steht unter erheblichem Modernisierungsdruck. Fachkräfte sollen entlastet, Bürgerdienste effizienter gestaltet und digitale Verfahren konsequent umgesetzt werden. Künstliche Intelligenz gilt dabei als ein zentraler Hebel. Insbesondere agentenbasierte KI-Systeme, die eigenständig Aufgaben übernehmen und mit unterschiedlichen Fachverfahren interagieren, versprechen einen spürbaren Automatisierungsschub.

Agentic AI in der Verwaltung

Deutschland gewinnt internationalen Preis für KI

Doch je konkreter entsprechende Vorhaben werden, desto deutlicher zeigt sich auch: Im öffentlichen Sektor ist Automatisierung nicht nur eine technologische Frage, sondern vor allem eine strukturelle Herausforderung. Diese umfasst Anforderungen an Governance, Sicherheit, Transparenz, Nachvollziehbarkeit, Datenschutz und klare Verantwortlichkeiten beim Einsatz von künstlicher Intelligenz. Besonders relevant ist dies für Verwaltungsprozesse wie Antragsprüfung, Vergabeverfahren oder Fallbearbeitung, bei denen KI-Agenten Informationen zusammenführen, priorisieren und Entscheidungsoptionen vorbereiten können.

Regulierung ist kein Nebenschauplatz

Diese Anforderungen sind darüber hinaus nicht nur organisatorischer, sondern auch regulatorischer Natur. Mit dem Inkrafttreten des EU AI Act (Verordnung (EU) 2024/1689) hat sich der regulatorische Rahmen für den Einsatz von KI in Europa grundlegend gewandelt. Der europäische Gesetzgeber verfolgt einen risikobasierten Ansatz und definiert differenzierte Anforderungen an die Entwicklung, Implementierung und den Betrieb von KI-Systemen.

Das bedeutet: KI-Praktiken, die mit fundamentalen Werten der EU nicht vereinbar sind und ein inakzeptables Risiko für die Grundrechte der EU-Bürgerinnen und -Bürger darstellen, sind verboten. Gerade im Verwaltungsumfeld betrifft dies zentrale Prozesse. Anwendungen im Sozialwesen, in der Justiz oder im Meldewesen können als Hochrisiko-Systeme eingestuft werden und unterliegen damit strengen Vorgaben zu Transparenz, Dokumentation, Datenqualität und menschlicher Aufsicht.

Behörden sind dabei regelmäßig nicht nur Anwender, sondern Betreiber im Sinne der Verordnung. Sie tragen Verantwortung für die rechtskonforme Ausgestaltung – sowohl organisatorisch wie auch technisch. Governance wird damit zur Voraussetzung jeder tragfähigen KI-Strategie.

Sensible Daten sind der kritische Faktor

Verwaltungsprozesse basieren auf sensiblen, häufig unstrukturierten Informationen: Sozial- und Gesundheitsdaten, steuerliche Angaben, Vergabeunterlagen oder sicherheitsrelevante Dokumente. Diese Inhalte sind operativ kritisch und rechtlich besonders geschützt. Neben dem AI Act greifen datenschutzrechtliche Vorgaben, insbesondere Art. 22 DSGVO zu automatisierten Entscheidungen sowie Art. 25 DSGVO zum Datenschutz durch Technikgestaltung („Privacy by Design”). Agentische KI-Systeme, die Vorgänge priorisieren, Dokumente zusammenstellen oder Entscheidungsoptionen vorbereiten, benötigen Zugriff auf genau diese Datenbestände.

Effizienzgewinne allein reichen daher nicht als Legitimation. Entscheidend ist, wie dieser Zugriff strukturell kontrolliert, dokumentiert und klar begrenzt wird. Damit rücken Fragen der Zugriffskontrolle und der Datenverarbeitung stärker in den Mittelpunkt. Behörden müssen sicherstellen, dass agentische Systeme nur auf diejenigen Informationen zugreifen können, die für einen konkreten Vorgang erforderlich sind. Rollenbasierte Zugriffskonzepte, Protokollierung von Datenabfragen und klare Trennung zwischen operativen Systemen und analytischen Komponenten werden damit zu zentralen Elementen der Systemarchitektur.

(ID:50786799)