KI-Governance in Behörden Raus aus der Sackgasse, rein in die Prozesse

Anbieter zum Thema

Appian Deutschland Software GmbH

Ceyoniq Technology GmbH

Mein Videotermin Suite | Voigtmann GmbH

veenion GmbH

Behörden investieren Millionen in KI, doch erleben oftmals Ernüchterung. Das Problem liegt nicht an der Technologie, sondern an ihrer wertschöpfenden Umsetzung. Wie Verwaltungen den Weg aus der KI-Sackgasse finden, zeigt ein Blick auf gelungene Implementierungen.

Der Optimismus war groß, als Behörden vor einigen Jahren begannen, in künstliche Intelligenz (KI) zu investieren. Sie sollte Prozesse automatisieren, Mitarbeitende entlasten und Bürgerdienste verbessern. Doch vielerorts hat sich Ernüchterung breitgemacht: Chatbots funktionieren nicht richtig, KI-Piloten lassen sich nicht in den operativen Betrieb überführen, und wenn Entscheidungen von Algorithmen getroffen werden, bleibt unklar, wie diese zustande kamen. Für den öffentlichen Sektor, wo Compliance, Auditierbarkeit und öffentliche Rechenschaft fundamental sind, stellt dies ein erhebliches Problem dar.

Die wesentliche Ursache hierfür liegt nicht an der Technologie selbst, sondern an ihrer Implementierung. Viele Behörden setzen KI als Einzellösung ein – als technologisches Add-on, das neben bestehenden Prozessen läuft, ohne wirklich mit ihnen integriert zu sein. Diese isolierte Implementierung führt zu genau den Problemen, die nun zu beobachten sind: Systeme, die nicht skalieren, weil sie nicht in die vorhandenen Workflows passen; Entscheidungen, deren Nachvollziehbarkeit fragwürdig ist; Lösungen, die am Ende nicht in der Praxis funktionieren.

Das Kernproblem: KI ohne Governance

Der Knackpunkt ist das Fehlen einer klaren Governance-Struktur. Ohne transparente Workflows, eingebaute menschliche Kontrolle und vollständige Auditierbarkeit kann KI im öffentlichen Sektor nicht funktionieren. Besonders bei Verwaltungsentscheidungen, die Bürgerinnen und Bürger unmittelbar betreffen, ist es essenziell nachvollziehen zu können, wie eine Entscheidung getroffen wurde.

Das trifft besonders auf kritische Bereiche wie öffentliche Sicherheit, Gesundheit und Sozialwesen sowie Beschaffungswesen zu, wo Fehlentscheidungen unmittelbare Auswirkungen haben. Hier müssen Leitplanken nicht als Hindernis verstanden werden, sondern als Teil der Lösung. Sie schaffen erst die Grundlage für den skalierbaren Einsatz von vertrauenswürdigen KI-Systemen in Verwaltungsprozessen.

Die Lösung: KI als Teil des Prozesses

Der richtige Ansatz besteht darin, KI direkt in bestehende Verwaltungsprozesse einzubetten und dabei von Anfang an Transparenz und Kontrolle einzubauen. Statt KI als Universallösung zu implementieren, sollte sie dort eingesetzt werden, wo sie konkrete Arbeitsschritte unterstützt und Mitarbeitende entlastet oder dem Bürger den Zugang zu Verwaltungsdiensten vereinfacht, immer mit der Möglichkeit menschlicher Intervention. Wenn ein KI-Modell zu wenig Sicherheit bei einer Entscheidung hat, kann das System automatisch auf vordefinierte, regelbasierte Maßnahmen zurückgreifen – etwa die Weitergabe an einen menschlichen Prüfer – und gewährleistet so, dass Ergebnisse sicher, vorhersehbar und verteidigbar bleiben.

Ein praktisches Beispiel verdeutlicht dies: Bei digitalen Mängelmeldungen von Bürgern – etwa zu Schlaglöchern oder beschädigten Straßenbeleuchtungen – kann KI durch Bildanalyse prüfen, ob es sich tatsächlich um einen berechtigten Schadensfall handelt und offensichtliche Fake-Meldungen herausfiltern. Die berechtigten Meldungen werden dann automatisch an den zuständigen Fachbereich weitergeleitet. Der entscheidende Unterschied: Die KI übernimmt hier eine klar definierte Aufgabe im Rahmen eines strukturierten Prozesses. Sie ist nicht losgelöst, sondern funktioniert innerhalb transparenter, kontrollierter Workflows.

Schrittweise Automatisierung statt Big Bang

Ein wichtiges Prinzip bei der KI-Implementierung ist das schrittweise Vorgehen. KI sollte nicht überstürzt überall gleichzeitig vollständig automatisieren, sondern zunächst teilautomatisiert eingesetzt werden. Damit entstehen Erfahrungswerte, die Vertrauen aufbauen und die Grundlage für eine schrittweise Erhöhung des Automatisierungsgrades schaffen.

Bei komplexeren Verwaltungsprozessen – etwa bei der Beantragung von städtischen Ressourcen – kann KI beispielsweise folgende Prüfschritte automatisieren: Abgleich mit dem Kataster, ob die antragstellende Person in dem betreffenden Bezirk wohnt, oder die Überprüfung, ob alle fälligen Gebühren beglichen sind. Ein hinterlegter, fachverfahrensspezifischer Katalog von Prüffragen stellt dabei sicher, dass alle relevanten Kriterien rechtssicher und nachvollziehbar geprüft werden. Die finale Genehmigungsentscheidung kann dann – bei entsprechender Reife – perspektivisch auch vollständig automatisiert werden. Doch dieser Weg wird schrittweise gegangen, nicht im Sprung.

Daten als Grundlage: Data Fabric als Enabler

Damit KI in Verwaltungsprozessen effektiv funktioniert, benötigt sie umfassenden und verlässlichen Zugriff auf relevante Daten. Hier liegt oft ein weiteres Problem: In vielen Behörden sind Daten in verschiedenen, isolierten Systemen gespeichert – in Silos. Informationen über Bürgerinnen und Bürger, Genehmigungen, Gebühren oder Vermögensverzeichnisse liegen verteilt auf unterschiedlichen Plattformen vor. Das führt zu Ineffizienzen und Fehlern.

Ein Data-Fabric-Ansatz löst diese Herausforderung minimalinvasiv: Die Informationsschicht verbindet verschiedene Datenquellen, ohne die bestehenden Systeme zu ersetzen. Daten werden zentral sichtbar und können bidirektional abgefragt werden, so, als wären sie in einem System vereinigt. Auch bei fortschreitender Registermodernisierung können Schnittstellen einfach und schnell angepasst werden, ohne die Informationssicht zu verändern.

Gleichzeitig ist es essentiell, dass diese Datenintegration in einem sicheren, transparenten Rahmen stattfindet: Die Daten bleiben in der eigenen Sicherheitsgrenze der Behörde, werden niemals für das Training von KI-Modellen genutzt, und jede KI-gestützte Aktion wird protokolliert und nachvollziehbar dokumentiert. Dies ist entscheidend für KI-Systeme, die arbeiten sollen, ohne menschliches Eingreifen in jedem Schritt zu erfordern. Mit einer intelligenten Datenintegration können Behörden ihre vorhandene IT-Landschaft nutzen und schrittweise modernisieren, statt alles neu aufzubauen.

Transparenz und Vertrauen als Erfolgsfaktoren

Was unterscheidet erfolgreiche KI-Implementierungen im öffentlichen Sektor von gescheiterten? Es sind vor allem zwei Faktoren: Transparenz und Vertrauen. Transparente Prozesse bedeuten, dass nachvollziehbar ist, welche Entscheidungen KI trifft und warum (basierend auf welchen Daten). Vertrauen entsteht durch klare Governance – also durch Leitplanken, die nicht bremsen, sondern ermöglichen. Sie schaffen die rechtliche Sicherheit, die Verwaltungen brauchen, um KI überhaupt einsetzen zu können.

In einem gut gesteuerten Prozess ist jeder Schritt dokumentiert und prüfbar. Mitarbeitende behalten die Kontrolle, während KI repetitive und fehleranfällige Aufgaben übernimmt. Wenn sich Gesetze oder politische Vorgaben ändern, kann der Prozess entsprechend angepasst werden. Behördenleitungen behalten die Kontrolle darüber, wie Entscheidungen getroffen werden, und können Automatisierungen jederzeit anpassen oder stoppen. Damit entstehen Systeme, die nicht nur effizienter, sondern auch vertrauenswürdiger sind – für die Verwaltung ebenso wie für die Bürgerinnen und Bürger.

Vom Einzelprojekt zur Skalierung

Wenn diese Grundprinzipien etabliert sind – KI als Prozess-Integration, schrittweise Automatisierung, transparente Governance und verlässliche Datengrundlagen – können Behörden beginnen, ihre KI-Implementierungen zu skalieren. Ein erfolgreiches Pilotprojekt wird zur Blaupause für weitere Verfahren. Die Governance-Strukturen, die für das erste Projekt aufgebaut wurden, können auf andere Bereiche übertragen werden. Bausteine und Anbindungen werden wiederverwendet und tragen damit auch dem „Einer-für-Alle“-Prinzip des Onlinezugangsgesetzes Rechnung. So entsteht nicht das Chaos von Hunderten isolierter KI-Experimente, sondern eine kohärente Strategie, die KI zum Werkzeug echter Verwaltungsmodernisierung macht.

KI braucht Struktur, nicht Freiheit

Behörden, die in KI investieren, müssen einen fundamentalen Paradigmenwechsel vornehmen: weg von KI als isolierter Technologielösung, hin zu KI als integralem Bestandteil verbesserter Verwaltungsprozesse. Das erfordert ein klares, dreistufiges Vorgehen:

• Zunächst muss definiert werden, wo KI konkret Mehrwert schafft – um sie in genau diese Prozesse einzubetten.

• Zweitens müssen Governance-Strukturen und Leitplanken von Anfang an in die Workflows eingebaut werden, nicht nachträglich.

• Drittens sollte der Erfolg kontinuierlich gemessen und die Implementierung entsprechend verbessert werden.

Diese Leitplanken sind nicht das Problem, sondern die Lösung. Sie ermöglichen erst die Skalierung und Geschwindigkeit, auf die Behörden hoffen. Sie sorgen dafür, dass öffentliche Gelder nicht in gescheiterte Piloten fließen, sondern in funktionierende, vertrauenswürdige Systeme, die Verwaltung und Bürgern wirklich nutzen. Denn letztlich gilt: KI ist nur so gut wie die Prozesse, in denen man sie einsetzt.

(ID:50898416)