Kolumne KI-Verordnung der EU … was nun?

Anbieter zum Thema

Ceyoniq Technology GmbH

Governikus GmbH & Co. KG

xSuite Group GmbH

Die EU hat mit der KI-Verordnung einen neuen Rahmen für den ­Einsatz von künstlicher Intelligenz geschaffen – doch was bedeutet das konkret für Kommunen und öffentliche Verwaltungen? Prof. Dr. Dr. Björn Niehaves und Dr. Sarah Rachut beleuchten, welche Risiken und Pflichten jetzt für die Akteure bestehen. Wer KI nutzt, braucht nicht nur Regeln – sondern auch Kompetenz.

Mit der KI-VO wurde auf europäischer Ebene erstmals ein Regelwerk geschaffen, das den Einsatz von KI umfassend in den Blick nimmt und dabei abhängig von den potenziellen Risiken Vorgaben für mögliche Einsatzszenarien macht. Die KI-VO gilt dabei umfassend und für alle KI-Systeme nach dem sogenannten Marktortprinzip, das heißt unabhängig davon, ob die Verantwortlichen im Inland, EU-Ausland oder einem Drittstaat ­sitzen oder ob es sich um private oder staatliche Institutionen handelt – sie alle sind an die Vorgaben der KI-VO gebunden, wenn KI irgendwo in der EU zum Einsatz kommt.

Welche Pflichten sich genau ergeben, hängt einerseits von den mit dem KI-Einsatz einhergehenden Risiken und andererseits von der eigenen Rolle ab: Betroffen sind dabei nicht nur die Anbieter von KI-Systemen, etwa die schlagzeilenfüllenden, global agierenden Unternehmen, die ihre KI-Anwendungen selbst entwickeln, sondern ebenso Betreiber solcher KI-Systeme und damit natürliche oder juristische Personen, die ein KI-System in eigener Verantwortung und nicht ausschließlich privat verwenden. Angesichts dieser niedrigen Anforderungen an den persönlichen Geltungsbereich und den vielfachen Bestrebungen, die Potenziale von KI auch für die öffentliche Verwaltung, insbesondere auf Ebene der Kommunen nutzbar zu machen, lohnt daher ein genauer Blick auf die Pflichten der KI-VO. Denn schnell zählt man selbst zu den Betreibern oder sogar – zum Beispiel bei bestimmten Anpassungen eines bestehenden Systems – zu den Anbietern von KI-Systemen gemäß der KI-VO!

Kennen und können

Für alle Anbieter und Betreiber und unabhängig der jeweiligen Risikokategorie des KI-Einsatzes gilt gemäß Art. 4 KI-VO, dass das Personal über die notwendige „KI-Kompetenz“ verfügen muss. Möchten öffentliche Stellen daher KI einsetzen, gilt diese Maßgabe für den Aufbau und Erhalt der KI-Kompetenz auch für sie. Es ist daher sicherzustellen, dass die Nutzenden über das notwendige Wissen bezüglich der Funktionsweise verfügen und damit auch die Grenzen und Schwächen eines solchen Systems kennen, die Ausgaben in den jeweiligen Kontext einordnen können und ebenso in der Lage sind, diese zu hinterfragen.

Auch wenn an die Missachtung von Art. 4 in der KI-VO selbst keine ­direkten Konsequenzen geknüpft sind – ein Aufatmen geht durch die Verwaltung der Republik – und die Norm vielmehr Appellcharakter hat, lohnt sich das Investment in KI-Kompetenz dennoch: Zunächst ist es nicht ausgeschlossen, dass im weiteren Verlauf eine Sanktionsvorschrift eingeführt wird, denn gemäß Art. 99 KI-VO haben die Mitgliedstaaten für die Durchsetzung der Verordnung zu sorgen – insbesondere durch Sanktionen.

Weiter ist der Aufbau der notwendigen KI-Kompetenz gerade die Grundlage, um die weiteren aus der KI-Verordnung erwachsenden Pflichten erfüllen zu können. Die gesamte Verordnung zielt hierbei darauf ab, den größtmöglichen Nutzen aus KI-Systemen zu ziehen und dabei gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen. Diese Vorgaben kann nur erfüllen, wer die entsprechende KI-Kompetenz besitzt.

Auf der nächsten Seite geht es weiter.

(ID:50381177)