EU AI Act KGSt-FAQ zu KI als Orientierungshilfe für Kommunen

Anbieter zum Thema

KGSt Kommunale Gemeinschaftsst f. Verwaltungsmanagement

Ceyoniq Technology GmbH

PROSOZ Herten GmbH

Fabasoft Deutschland GmbH

Welche Rollen, Pflichten und erforderlichen Fachkompetenzen sind mit dem EU AI Act verbunden? In einer neuen Publikation zum KI-Rechtsakt beantwortet die KGSt den Kommunen die wichtigsten Fragen, die mit der praktischen Umsetzung einhergehen.

Mit dem Inkrafttreten des EU AI Act am 1. August 2024 stehen Kommunalverwaltungen vor neuen regulatorischen Herausforderungen im Umgang mit Künstlicher Intelligenz. Um den etwa 150 Seiten umfassenden Rechtstext für die kommunale Praxis greifbar zu machen, hat die Kommunale Gemeinschaftsstelle für Verwaltungsmanagement (KGSt) gemeinsam mit Experten aus Verwaltung und Wirtschaft ein Dokument mit den drängendsten Fragen entwickelt. Der als Publikation 11/2025 beim KGSt gelistete Leitfaden „FAQ zum EU AI Act“ steht als Print- und PDF-Version sowie als laufend aktualisierter Bereich auf der Webseite der KGSt zur Verfügung.

Leitfaden des BSI zur Umsetzung des EU-AI-Act

Qualitätssicherung von KI-Trainingsdaten

Die Publikation konzentriert sich auf drei zentrale Bereiche: den grundsätzlichen Regelungsgehalt der Verordnung, die konkreten Rollen und Pflichten von Kommunalverwaltungen sowie erforderliche Maßnahmen zur KI-Kompetenzentwicklung. Als Zielgruppe sprechen die FAQ insbesondere CDOs, IT-Verantwortliche sowie Führungskräfte aus den Bereichen Organisation, Finanzen und Personalmanagement an.

Risikobasierter Ansatz prägt Umsetzung

Wie die Publikation unterstreicht, verfolgt der EU AI Act einen risikobasierten Ansatz und unterteilt KI-Systeme in vier Kategorien – von verbotenen Anwendungen bis hin zu Systemen mit geringem Risiko. „Eine KI-basierte Gesichtserkennung ist rechtlich anders zu bewerten als die Verwendung von KI im Rahmen kritischer Infrastrukturen oder die Nutzung eines KI-Chatbots“, heißt es in den FAQ. Je nach Einsatzzweck entstehen so unterschiedliche Verpflichtungen für öffentliche und private Organisationen.

Kommunale Einrichtungen fallen grundsätzlich unter die Vorgaben der Verordnung. Die Publikation stellt klar, dass damit sowohl Behörden als auch öffentlich-rechtliche Organisationen und entsprechende kommunale Beteiligungen wie Verkehrsbetriebe oder Stadtwerke gilt. Kommunalverwaltungen könnten dabei verschiedene Positionen innehaben: die der Anbieter, wenn sie KI-Systeme selbst entwickeln oder unter eigenem Namen betreiben, oder als Betreiber, wenn sie fremde KI-Lösungen in eigener Verantwortung verwenden.

Chatbots erfordern besondere Aufmerksamkeit

Eine Sonderstellung dürften künftig KI-basierte Chatbots einnehmen, die immerhin zunehmend in der kommunalen Praxis zum Einsatz kommen. Diese fielen oft unter die Kategorie „General Purpose AI Models“ (GPAI) und unterlägen spezifischen Transparenzpflichten, wie die FAQ betonen. Bereits die Vergabe eines eigenen Namens für einen Chatbot kann dazu führen, dass die Kommune zur Anbieterin wird und entsprechende Kennzeichnungspflichten erfüllen muss.

Ab dem 2. August 2026 müssen kommunale Chatbots den Transparenzvorgaben entsprechen. „Grundsätzlich gilt, dass für Anwender:innen transparent sein muss, ob sie mit einem Menschen oder einem KI-System interagieren“, betonen die FAQ. Allerdings entfällt diese Kennzeichnungspflicht, wenn die Inhalte einer menschlichen Kontrolle unterworfen wurden.

Governance und Kompetenzaufbau erforderlich

Die Umsetzung der Verordnung erfordert von Kommunen den Aufbau einer KI-Governance mit klaren Prozessen, Rollen und Strukturen. Pauschale Zuständigkeiten analog zu den Datenschutzbeauftragten Im Sinne der DSGVO gibt es laut den FAQ nicht. In der Praxis delegierten Kommunen die KI-Governance beispielsweise an Chief Digital Officer (CDO), Chief Information Officer (CIO), IT-Leitungen, Hauptamtsleitungen oder speziell eingerichtete Funktionen beziehungsweise Rollen wie einen AI Officer. Große Kommunen bildeten die Verantwortung teilweise auch in ihrer Aufbauorganisation ab.

Zentrale Aufgaben der KI-Governance umfassen die Inventarisierung aller KI-Anwendungen, deren Risikobewertung sowie die Rollenklassifizierung und die Einhaltung der Pflichten. Besondere Aufmerksamkeit im Zuge der Inventarisierung verdiene „Embedded KI“ – KI-Komponenten, die bereits in bestehender Software integriert sind, ohne dass dies den Nutzern bewusst ist.

Qualifizierung der Mitarbeitenden verpflichtend

Artikel 4 der Verordnung verpflichtet Anbieter und Betreiber, ihre Mitarbeitenden entsprechend zu qualifizieren. Die Schulungen müssen ein ausreichendes Maß an KI-Kompetenz vermitteln, wobei das Format nicht festgelegt ist. „In vielen Fällen kann es jedoch unwirksam und unzureichend sein, sich einfach auf die Gebrauchsanweisungen der KI-Systeme zu verlassen“, warnen die FAQ.

Die EU-Kommission empfiehlt Mindestinhalte für KI-Kompetenzprogramme, die ein allgemeines Verständnis von KI vermitteln und dabei die Rolle der Organisation, das Risiko der eingesetzten Systeme sowie verschiedene Nutzergruppen berücksichtigen. Verstöße gegen die Kompetenzentwicklung ließen sich zwar nicht direkt sanktionieren, könnten ab dem 2. August 2026 jedoch bei anderen Pflichtverletzungen – wie einem Verstoß gegen die Chatbot-Transparenzpflichten – strafverschärfend wirken, mutmaßt die KGSt. Wie genau mit Verstößen umgegangen werden, sei jedoch noch nicht final geklärt.

Viele Fragen noch offen

Dies trifft auch auf weitere Bereiche zu, und so räumt die KGSt trotz der umfangreichen FAQ ein: „Aktuell sind noch nicht alle Auswirkungen des EU AI Act auf die kommunale Ebene absehbar.“ Die Publikation beantworte nur die Fragen, die derzeit geklärt seien, und könne nicht alle Fallkonstellationen in Kommunen vollständig abbilden.

Selbst grundsätzliche Fragen wie das genaue Zusammenspiel von DSGVO und EU AI Act müssten noch geklärt werden. Dementsprechend lohnt es sich, die Online-FAQ zum EU AI Act mit den fortlaufenden Aktualisierungen im Blick zu behalten. In gesetzter Form stehen die FAQ im KGSt-Portal – unabhängig von einer Mitgliedschaft – kostenfrei zum Download bereit.

AI Act

EU setzt Regeln für den Umgang mit KI in Kraft

EU AI Act

EU-Kommission gibt Orientierung für neue KI-Regeln ab August

(ID:50523544)