Mobile-Menu

Wie die öffentliche Verwaltung von KI profitieren kann

Regulierter Einsatz von KI

< zurück

Seite: 2/2

Anbieter zum Thema

VIER GmbH
Ceyoniq Technology GmbH
IBYKUS AG für Informationstechnologie
SMART CJM GmbH

Unerlässlich: Menschliche Aufsicht über KI-Systeme

Das Prinzip des Human Oversight oder Human-in-the-Loop (HITL) beschreibt ein Interaktionsmodell, bei dem Mitarbeiter aktiv in den Arbeitsprozess eines KI-Systems eingebunden sind. Das heißt, die KI macht Vorschläge oder bereitet Daten auf, aber die finale Entscheidung erfordert zwingend eine menschliche Handlung.

Die Kernmerkmale des HITL-Prinzips:

  • Kontrollfunktion: Das KI-System kann Aktionen nicht eigenständig bis zum Ende ausführen. Der Mensch fungiert als Kontrollinstanz.
  • Validierung: Jedes Zwischen- oder Endergebnis der KI wird vom Menschen überprüft, korrigiert oder freigegeben (z. B. bei der automatisierten Erstellung von Leistungsbescheiden).
  • Lerneffekt: Durch die Korrekturen erhält das System wertvolles Feedback, wodurch die KI kontinuierlich weiterführend trainiert und verbessert wird.

Es reicht dabei nicht, dass formal ein Mitarbeiter hinter dem Prozess steht. Die Person muss tatsächlich die fachliche Fähigkeit haben, die KI-Ausgabe zu prüfen und zu korrigieren. Beispielsweise muss bei einer KI-Lösung, die auf Fragen nach einer Sozialleistung antwortet, die zuständige Fachkraft die Sachlage kennen. Es gilt: Je autonomer ein System arbeitet, desto intensiver muss die menschliche Kontrolle sein.

KI-Lösungen können Behörden unterstützen

Grundsätzlich dürfen Behörden KI in der Kundenkommunikation einsetzen und so die Servicequalität erhöhen und Antwortzeiten verkürzen. Eine gute KI-Governance beinhaltet dabei, dass die KI nicht einfach durchläuft, sondern einen kritischen Vorgang je nach Risiko erkennt, stoppt oder begrenzt, auf eine sichere Standardantwort wechselt, an einen Menschen übergibt und dazu den Chat- oder E-Mail-Verlauf gleichzeitig protokolliert und auswertet. Hinzu kommt: Ähnlich wie Mitarbeiter brauchen auch KI-Lösungen laufend Feedback in Form von Korrekturen und Trainings, um ständig besser zu werden.

Der Autor
Carsten Fiegler, Vice President Business Communication bei VIER GmbH

Bildquelle: VIER GmbH

(ID:50979223)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte