Mobile-Menu

Transparenzregister und AI Act

Künstliche Intelligenz unter Beobachtung

< zurück

Seite: 2/2

Anbieter zum Thema

Materna Information & Communications SE
Fabasoft Deutschland GmbH
Mein Videotermin Suite | Voigtmann GmbH

AI Act: Wie streng muss er sein?

Doch auch auf EU-Ebene gibt es Bestrebungen, Künstliche Intelligenz künftig zu regulieren. Basis soll der sogenannte AI Act bilden. Das Gesetz, das seit Jahren in Vorbereitung ist, soll alles Mögliche regeln – von biometrischer Identifikation im öffentlicher Raum über den Einsatz von KI-Systemen an den EU-Außengrenzen oder bei der Energieversorgung. Vor allem soll es aber aufzeigen, in welchen Bereichen KI auf keinen Fall zur Anwendung kommen darf. Daher werden die ADM-Systeme je nach potenziellem Risiko in vier Kategorien eingeteilt werden: Anwendungen mit unannehmbarem Risiko, mit hohem Risiko, mit geringem oder minimalen Risiko. Je höher das Risiko, desto strenger die Regulierungen: Bei einem unannehmbaren Risiko wird die Anwendung demnach verboten. Das gilt etwa, wenn aufgrund von sozialem Verhalten nachteilige Bewertung drohen, wie beim chinesischen Sozialkredit-System. Hochrisiko-KI-System müssen hingegen nur bestimmte Auflagen – etwa bezüglich des Risikomanagements, der Daten-Governance- und Datenverwaltungsverfahren für die Trainingsdatensätze oder der Informationen für die Nutzer – erfüllen, während bei KI-Systeme mit geringem Risiko nur eine minimale Transparenz- und Informationspflicht besteht.

Obwohl sich die Mitgliedsstaaten – und damit auch Deutschland – bereits auf diese Ausführung geeinigt hatten, stoßen der SPD-Fraktion einige Absprachen sauer auf, wie sie in einem Positionspapier darlegt. Dabei geht es unter anderem um die Definition der Künstlichen Intelligenz. Den Abgeordneten ist die aktuelle Variante zu eng gefasst, während ihrer Meinung nach bei den Einsatzgebieten, die laut Gesetz als hochriskant gelten, zu locker vorgegangen wird. „Es fallen laut aktuellen Schätzungen nur etwa 5 bis 15 Prozent der Anwendungen in den mit besonderen Auflagen und Pflichten belegten Hochrisikobereich. Für die große Mehrheit der KI-Systeme gelten deutlich geringere Anforderungen“, so die Autoren. Diese Kombination käme einer Aushebelung der Regularien gleich, so der zuständige Berichterstatter der Fraktion, Parsa Marvi.

Doch das ist nicht das einzige Problem der Neuerungen, denn im Koalitionsvertrag heißt es:

Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring Systeme durch KI sind europarechtlich auszuschließen

Im AI Act wird nun jedoch nur die biometrische Echtzeitüberwachung ausgeschlossen. Heißt, die nachträgliche Auswertungen der Aufnahmen wird weiterhin möglich sein. Die Regierung übergeht damit (erneut) den Koalitionsvertrag und damit ihr Versprechen an die Bürger und Bürgerinnen.

Dass die Beschränkungen an vielen Stellen lascher ausfallen als vielleicht gehofft, hängt dabei sicherlich auch mit der Angst zusammen, von Mitbewerbern abgehängt zu werden. So erklärte etwa Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung: „Der Rat der Europäischen Union hat mit seinen Vorschlägen zum AI Act den Entwurf der Kommission an entscheidenden Stellen verbessert. Zugleich besteht aber weiterhin die Gefahr, dass durch eine zu starke Fokussierung auf Risiken die KI-Entwicklung in Europa ausgebremst wird.“ Künstliche Intelligenz sei eine Technologie, der eine entscheidende Bedeutung für unsere Zukunftsfähigkeit zukommt. „Zwei Drittel der Unternehmen in Deutschland sehen in KI vor allem eine Chance. Damit kommt dem AI Act mit Blick auf die Wettbewerbsfähigkeit der europäischen Wirtschaft und unseren künftigen Wohlstand eine bedeutende Rolle zu.“

(ID:49232356)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte