Public Sector Generative KI: Kriterien für die sichere Umsetzung

Anbieter zum Thema

Comma Soft AG

Materna Information & Communications SE

Mein Videotermin Suite | Voigtmann GmbH

mgm technology partners GmbH

Künstliche Intelligenz als strategische Ressource: In seinem Gastbeitrag zeigt Benjamin Schulte, wie Verwaltungen, Bürger und Unternehmen von diesem „Hilfswerkzeug“ profitieren können.

Der Dialog über die Einführung generativer Künstlicher Intelligenz (GenAI) in der öffentlichen Verwaltung nimmt seit der Umsetzung des ersten europäischen KI-Gesetzes und seit der Diskussion zur Änderung des Online-Zugangsgesetzes (OZG 2.0) zunehmend an Fahrt auf. Immer mehr Akteure erkennen: Für die aktuellen Herausforderungen des öffentlichen Sektors in Deutschland sind innovative Lösungen notwendig. Und da erscheint GenAI nicht nur als spannende technologische Neuerung, sondern als essenzielle strategische Ressource.

Bürokratieabbau und effiziente Bürgerverwaltung

Denn: Generative KI verspricht Entlastungen im Fachkräftemangel und bietet Lösungen für langwierige Planungs- und Genehmigungsverfahren sowie für den Bürokratieabbau. Im Jahr 2030 werden rund 1,3 Millionen Mitarbeitende aus dem öffentlichen Dienst in den Ruhestand gehen. Schon heute sind 360.000 Stellen unbesetzt. GenAI-basierte Chatbots können zum Beispiel die Kommunalverwaltung entlasten und den Bürgerservice verbessern, indem sie in mehreren Sprachen kommunizieren und den Bürgerinnen und Bürgern rund um die Uhr und von überall aus Unterstützung bieten, notwendige Dokumente zum Download bereitstellen – und dadurch Anträge beschleunigen.

GenAI hat auch für interne Prozesse großes Automatisierungspotenzial: So lässt sich die Technologie in spezifische Fachprozesse integrieren und kann über Schnittstellen, wie bei elektronischen Verwaltungsakten, effizient genutzt werden. Dies ermöglicht eine asynchrone Durchführung von Aufgaben und Prozesse nahezu in Echtzeit. Auch kann GenAI eingereichte Dokumente automatisch auf die erforderlichen Informationen und Standards hin prüfen, somit die Bearbeitungszeit verkürzen und die menschliche Kontrolle reduzieren.

In komplexen Genehmigungsverfahren, wie bei Bauanträgen, kann GenAI relevante Dokumente analysieren und Abweichungen oder Fehlinformationen schnell identifizieren, was die Vorlaufzeit für Rückfragen und Korrekturen ebenfalls verkürzt. Somit könnte zumindest in Teilen der öffentlichen Verwaltung das Personal entlastet – und gleichzeitig der Bürgerservice verbessert werden.

Prüfen, wo GenAI Mehrwert bringt

Bei diesen Möglichkeiten ist es nicht verwunderlich, warum viele Unternehmen, GovTech-Start-ups und Politiker große Hoffnung in generative KI hegen. Bei all dem Hype sollte aber auch klar sein: Ein Allheilmittel für die Herausforderungen im Public Sector ist GenAI nicht. Denn auch wenn diese Schlüsseltechnologie in bestimmten Bereichen wie dem Bürgerservice für Entlastung sorgen kann: Personal ersetzen kann sie nicht.

Um das volle Potenzial von generativer KI zu nutzen, ist es entscheidend, genau zu analysieren und zu bewerten, in welchen Bereichen sie wirklich nützlich sein kann. Obwohl Technologie Routinearbeiten übernehmen und Abläufe beschleunigen kann, sind die menschliche Interaktion, kritisches Denken und Empathie – vor allem in Berufen mit sozialem und sicherheitsrelevantem Hintergrund – durch nichts zu ersetzen. Daher ist es für Verantwortliche im öffentlichen Sektor wichtig, nicht nur die technischen Möglichkeiten und Beschränkungen von GenAI zu betrachten, sondern auch sorgfältig zu überlegen, welche Auswirkungen ihr Einsatz auf die Mitarbeitenden und die Qualität der Dienstleistungen haben könnte.

Ethik, Technik, Regulatorik

Für die Einführung generativer KI in der öffentlichen Verwaltung müssen demnach ethische, technische und rechtliche Vorgaben beachtet werden, die teilweise Hand in Hand gehen. Die KI-Verordnung der EU reguliert die Anwendung und Entwicklung von KI durch staatliche Stellen. Zentrale Aspekte darin beinhalten die Einhaltung des Datenschutzes, klare Verantwortlichkeit bei Fehlentscheidungen – und die Nachvollziehbarkeit KI-generierter Lösungsvorschläge. Nur so kann das Vertrauen der Öffentlichkeit in die Technologie und in die Integrität des öffentlichen Sektors bewahrt werden.

Mit RAG gegen Diskriminierung

Im „ChatGPT-Jahr“ 2023 kam es bei besagter GenAI immer wieder zu Fehlmustern: Mal antwortete das KI-Sprachmodell mit klaren Falschaussagen, ein anderes Mal mit diskriminierender Sprache. Das wäre im öffentlichen Sektor ethisch nicht vertretbar und ein absolutes No-Go. Darum sollten Behörden darauf achten, dass ihre GenAI-Lösung mit der sogenannten Retrieval-Augmented Generation (RAG) ausgestattet ist.

RAG ermöglicht es der GenAI, auf neueste Informationen und interne Daten zuzugreifen. Dadurch können sie Antworten liefern, die nicht allein auf ihrem vorher trainierten Wissen basieren, sondern auch auf aktuellem Kontext. Das führt zu präzisen und verlässlichen Antworten, reduziert die Wahrscheinlichkeit kritischer Fehlaussagen – und verbessert die Glaubwürdigkeit der KI-Sprachmodelle.

Dafür ist es entscheidend, die GenAI-Lösung an interne Datenquellen zu koppeln. KI wird umso erfolgreicher, je besser die Datengrundlage ist. Gute Wissensmanagement-Systeme und strukturierte Daten sind eine Voraussetzung, damit GenAI noch besser funktioniert und effektiv zum Einsatz kommt.

Und: Sie wird erst dann ihr volles Potenzial für die Modernisierung der Verwaltung entfalten, wenn sie nicht nur das umfassende Wissen der Verwaltung mit den Fähigkeiten großer Sprachmodelle vereint, sondern auch allen Mitarbeitenden der öffentlichen Verwaltung zugänglich gemacht wird – selbstverständlich unter Berücksichtigung von Rollen- und Berechtigungskonzepten für den sicheren Zugriff auf interne Informationen. Durch die Integration interner Datenquellen kann generative KI den öffentlichen Dienst spürbar weiterentwickeln – und effiziente, intelligente sowie bürgerfreundliche Lösungen bieten.

Hosting-Standort des KI-Anbieters

Wichtig ist auch, zu beachten, wo und von wem die GenAI-Lösung gehostet wird. Da in der öffentlichen Verwaltung teilweise auch sensible Daten gespeichert werden, gelten klare Bestimmungen. Beispielsweise bei den Sozialdaten. Das Sozialdatenschutzrecht erlaubt deren Verarbeitung nur in vier spezifischen Regionen (§ 80 Abs. 2 SGB X): Im Inland, in EU-Mitgliedstaaten, in Staaten mit gleichwertigem Datenschutzniveau (§ 35 Abs. 7 SGB I) oder in Ländern mit einem EU-Kommissionsbeschluss zur Angemessenheit des Datenschutzes (Artikel 45 DSGVO). Zu beachten sind außerdem Regelungen zum Schutz von Daten von Berufsgeheimnisträgern wie Ärzten oder Anwälten (§203 StGB). Die verantwortlichen Stellen sollten also genau prüfen, welche Anbieter und Standorte für sie infrage kommen.

Pilotprojekte initiieren

Die Implementierung neuer Technologie kann anfangs überfordernd wirken. Für den Start bietet es sich darum an, die Einführung generativer KI schrittweise anzugehen und mit Pilotprojekten in ausgewählten Bereichen zu beginnen. Diese Teilprojekte ermöglichen es, die Vorteile und Herausforderungen praktisch zu testen und wichtige Einblicke zu gewinnen. So kann der Einsatz von GenAI effizient und mit Fokus auf den Menschen gestaltet werden.

Ziel ist es, allen Menschen den Zugang zu dieser Schlüsseltechnologie zu erleichtern. Sie ist ein Hilfswerkzeug, mit dem Mitarbeitende effizienter arbeiten und Stakeholder schneller zum bürokratischen Ziel kommen: Bürger, die administrative Services benötigen, Unternehmen, die auf regulatorische Genehmigungen angewiesen sind – sowie andere Organisationen, die in Partnerschaft mit dem Staat arbeiten oder von ihm finanzierte Programme nutzen.

Graph- und KI-Trends

Exponentielle Geschwindigkeit der KI macht Vorhersagen (fast) unmöglich

Künstliche Intelligenz für die Verwaltung

Aleph Alpha kommt nach Bayern

(ID:49990015)