KI-Agenten in der Verwaltung Eine Frage der Orchestrierung

Anbieter zum Thema

Kestra S.A.S.

Ceyoniq Technology GmbH

IBYKUS AG für Informationstechnologie

mgm technology partners GmbH

Damit agentische KI in der Verwaltung funktioniert, muss der Zugriff auf Daten, Fachverfahren und Infrastruktur klar geregelt sein. Eine technische Orchestrierungsebene macht das Handeln von Agenten erst kontrollierbar, nachvollziehbar und bezahlbar.

Die Diskussion über künstliche Intelligenz in der öffentlichen Verwaltung konzentriert sich bislang stark auf Modelle, Datenqualität und mögliche Anwendungsfälle. Im Mittelpunkt stehen etwa die Zusammenfassung umfangreicher Dokumente, die Unterstützung bei Bürgeranfragen oder die automatisierte Prüfung von Unterlagen.

Mit KI-Agenten geht die Entwicklung jedoch einen entscheidenden Schritt weiter: Sie erstellen nicht nur Inhalte oder Empfehlungen, sondern können selbstständig Werkzeuge auswählen, Systeme aufrufen und Prozessschritte anstoßen. Damit verändert sich die Aufgabe für IT-Entscheider. Sie müssen nicht mehr allein beurteilen, welches Modell für einen Anwendungsfall geeignet ist. Sie müssen auch festlegen, was ein Agent innerhalb der Verwaltungs-IT tatsächlich tun darf.

Künstliche Intelligenz

Agentic AI Hub: Die Start-ups sind am Zug

Das wirtschaftliche und organisatorische Potenzial ist erheblich. Routineaufgaben lassen sich beschleunigen, Beschäftigte können von wiederkehrenden Tätigkeiten entlastet und Prozesse auch außerhalb klassischer Bürozeiten weitergeführt werden. Gleichzeitig steigt die Tragweite möglicher Fehler. Eine unzutreffende Antwort ist problematisch; eine unzutreffende Aktion in einem produktiven Fachverfahren kann deutlich größere Folgen haben.

Für den öffentlichen Sektor stellen sich daher konkrete Fragen:

• Mit welcher Identität greift ein Agent auf ein System zu?
• Welche Daten darf er lesen oder verändern?
• Welche Aktionen darf er selbstständig ausführen?
• Wann ist eine fachliche oder menschliche Freigabe erforderlich?
• Wie lässt sich später nachvollziehen, warum ein Schritt erfolgt ist?
• Was passiert, wenn ein beteiligtes System nicht verfügbar ist?
• Wie kann eine fehlerhafte Ausführung gestoppt oder kontrolliert wieder aufgenommen werden?

Solche Fragen lassen sich nicht allein durch die Wahl des KI-Modells beantworten, sondern betreffen unmittelbar die Architektur, Governance und Verantwortungsstruktur der gesamten IT.

KI-Agenten sind kein weiteres Silo

Die Verwaltungs-IT besteht aus unterschiedlichen technologischen und organisatorischen Ebenen. Dazu gehören Daten und Register, Cloud- und Rechenzentrumsinfrastrukturen, Anwendungen und Fachverfahren sowie die eigentlichen Verwaltungsprozesse mit ihren Zuständigkeiten und Freigaben.

KI-Agenten bilden daneben keine eigenständige fünfte Welt. Sie bewegen sich quer durch diese Ebenen. Ein einziger Vorgang kann den Zugriff auf Daten, den Aufruf mehrerer Anwendungen, die Nutzung zusätzlicher Rechenressourcen und eine abschließende Entscheidung durch einen Menschen umfassen.

Genau deshalb sollte für Agenten keine separate Automatisierungslandschaft entstehen. Würden für jedes Modell, jedes Agenten-Framework und jeden Anwendungsfall eigene Integrationen und Kontrollmechanismen aufgebaut, stiege die Komplexität schnell an. Berechtigungen, Protokollierung, Fehlerbehandlung und Freigaben müssten mehrfach implementiert und dauerhaft gepflegt werden.

Sinnvoller ist es, Agenten in dieselben kontrollierten Abläufe einzubinden, die auch für andere systemische oder menschliche Aufrufe gelten. Der Agent kann einen definierten Prozess anstoßen oder innerhalb festgelegter Grenzen ein Werkzeug auswählen. Die Regeln für die Ausführung bleiben jedoch unabhängig vom verwendeten Modell oder Agenten-Framework bestehen.

Governance muss Teil der Ausführung werden

Die Anforderungen an Richtlinien und organisatorische Vorgaben sind in der öffentlichen Verwaltung ohnehin hoch. Sobald Automatisierung und agentische KI ins Spiel kommen, reichen Regelwerke allein trotzdem nicht mehr aus. Governance muss dann in der technischen Ausführung selbst verankert werden.

Das bedeutet beispielsweise, dass ein Agent nicht unmittelbar weitreichende Zugriffsrechte auf ein produktives System erhält. Stattdessen kann er einen vorab definierten und begrenzten Workflow aufrufen. Dieser Workflow legt fest, welche Eingaben zulässig sind, welche Berechtigungen erforderlich sind und welche Schritte automatisch erfolgen dürfen.

Kritische Entscheidungen können mit einer menschlichen Freigabe verbunden werden. Jeder Aufruf lässt sich einer Identität, einer Workflow-Version und einem Ergebnis zuordnen. Fehler- und Eskalationspfade werden nicht erst im Störungsfall improvisiert, sondern im Prozess berücksichtigt.

Die zugrunde liegende Rollenverteilung ist einfach:

Der Agent kann vorschlagen, auswählen oder auslösen. Die Orchestrierung kontrolliert und dokumentiert die Ausführung. Bei kritischen Schritten entscheidet weiterhin ein Mensch.

Dieser Ansatz schafft zugleich technologische Wahlfreiheit. Behörden können Modelle und Agenten-Frameworks austauschen oder selbst betriebene Modelle einsetzen, ohne die Regeln für jeden Prozess vollständig neu zu entwickeln.