Mobile-Menu

KI-Agenten in der Verwaltung Ungeregelt heißt nicht unreguliert

Ein Gastbeitrag von Mathias Widler 6 min Lesedauer

Anbieter zum Thema

Netskope Germany GmbH
Ceyoniq Technology GmbH
mgm technology partners GmbH
SMART CJM GmbH

Seit Ende Juli 2026 steht fest, welche Behörde die KI-Verordnung in Deutschland durchsetzt. Für Kommunen und Landesbehörden ist es nicht die Bundesnetzagentur, sondern die nach Landesrecht zuständigen Behörden der jeweiligen Bundesländer. Wer einen Chatbot, Assistenten oder Agenten im Bürgerkontakt betreibt, ist bereits an die Transparenzpflichten gebunden.

Beim Wort „Agent“ wird vielfach an zwielichtige Protagonisten aus 50er Jahre Filmen gedacht.(Bild: Gemini / KI-generiert)
Beim Wort „Agent“ wird vielfach an zwielichtige Protagonisten aus 50er Jahre Filmen gedacht.
(Bild: Gemini / KI-generiert)

Agenten sind KI-Systeme, die eigenständig Schritte ausführen, statt nur zu antworten: Termine buchen, Korrespondenz bearbeiten, Vorgänge vorsortieren. Wer die KI-Verordnung nach Vorgaben dafür durchsucht, findet nichts. Das Wort „Agent“ kommt kein einziges Mal vor. Die Verordnung stammt aus dem Jahr 2024, als solche Systeme noch kein Massenphänomen waren.

Die Lücke im Wortlaut ist keine Lücke in der Regulierung. Der AI Act Service Desk der EU-Kommission hält in seinen Erläuterungen (FAQs) fest, dass Agenten keine eigene Kategorie bilden. Sie fallen unter die Definitionen in Artikel 3. Betroffen sind aber nicht nur sie: Artikel 50 erfasst jedes KI-System, das mit Menschen interagiert, vom Chatbot auf der Website über den Sprachassistenten in der Hotline bis zur Assistenzfunktion im Fachverfahren.

Aufsicht nach dem KI-MIG

Am 29. Juli 2026 trat das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) in Kraft. Es macht die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle (§§ 2, 6 und 8 KI-MIG). Für Hochrisikosysteme in Strafverfolgung, Grenzmanagement und Justiz entsteht dort eine unabhängige Marktüberwachungskammer (§ 2 Absatz 5, § 4 KI-MIG).

Etwas anderes gilt für Länder und Kommunen. Nehmen öffentliche Stellen der Länder KI-Systeme in Betrieb oder verwenden sie, liegt die Marktüberwachung nach § 2 Absatz 6 KI-MIG bei den nach Landesrecht zuständigen Behörden. Wer kommunal oder auf Landesebene arbeitet, hat es also nicht mit der Bundesnetzagentur zu tun.

Geldbußen drohen der Verwaltung weitgehend nicht. Nach § 17 Absatz 2 KI-MIG werden gegen Behörden und sonstige öffentliche Stellen im Sinne des § 2 Absatz 1 und 2 BDSG keine Geldbußen verhängt. Das ist jedoch keine Entwarnung. Die Aufsicht arbeitet mit Anordnungen bis hin zur Untersagung des Betriebs und informiert vorher nach § 9 Absatz 3 KI-MIG die Rechts- oder Fachaufsicht. Für private Dienstleister bleibt der volle Bußgeldrahmen bestehen.

Nach § 12 KI-MIG berät die Bundesnetzagentur öffentliche Stellen zudem im Einzelfall dazu, ob ein System ein KI-System ist und ob es als Hochrisikosystem gilt.

(ID:50961363)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte