Mobile-Menu

Anfrage im Bundestag

„Bundesregierung verwendet KI und ignoriert Risiken“

< zurück

Seite: 2/2

Anbieter zum Thema

Materna Information & Communications SE
Disy Informationssysteme GmbH
mgm technology partners GmbH

Die wichtigsten Ergebnisse der Anfrage an die Bundesregierung

  • Stand jetzt (Juni 2023) erfahren über 100 verschiedene KI-Systeme im Geschäftsbereich der Bundesregierung tagtäglichen Einsatz.
  • 446 weitere Forschungsprojekte zum Themenschwerpunkt KI werden zusätzlich von der Bundesregierung – direkt oder indirekt – finanziell unterstützt. Dafür werden jährlich etwa 50 Millionen Euro an Steuergeldern aufgewandt.
  • Unter Berufung auf das Staatswohl bleibt ein Großteil des Fragenkatalogs – insbesondere die Teilbereiche, die den Einsatz von KI-Technologie in den Reihen der kriminaltaktischen oder nachrichtendienstlichen Strafverfolgungs-, Ermittlungs-, und Gefahrenabwehrbehörden beinhalten – weitestgehend unbeantwortet. Laut dem Begründungsschreiben der Bundesregierung würden „mit der Beantwortung mittelbar bestimmte Arbeitsmethoden und Vorgehensweisen offengelegt oder Rückschlüsse darauf ermöglicht“ und das Risiko, dass „derart sensible Informationen bekannt werden“, könne „unter keinen Umständen hingenommen werden“.

Das sind die Forderungen an die Bundesregierung

Laut einer repräsentativen Forsa-Umfrage im Auftrag des TÜV-Verbandes haben schon 83 Prozent der Deutschen von ChatGPT gehört und damit ein gewisses Grundverständnis von KI erfahren. Dass mit KI jedoch nicht nur generative Anwendungen – wie zum Beispiel Stable Diffusion, ChatGPT und Dall-E – sondern auch (teil)automatisierte Entscheidungsprozesse oder Mustererkennungssystematiken – beispielsweise in der Strafverfolgung – realisiert werden können, ist noch nicht im kollektiven Bewusstsein aller verankert. Aus diesem Grund möchte die Fraktion DIE LINKE und Anke Domscheit-Berg im Speziellen den öffentlichen Diskurs zu den Chancen und vor allem den Risiken von KI in Hochrisikobereichen des öffentlichen Lebens anregen.

Sie fordern die Bundesregierung daher dazu auf, einerseits einheitliche Prozesse für die Bewertung und den Einsatz von KI-Systemen im Geschäftsbereich der Bundesregierung und ihrer nachgeordneten Behörden zu entwickeln und verbindlich vorzuschreiben und andererseits permanentes Monitoring, klare Rechenschaftspflichten und Evaluationen einzuführen. Weiterhin werden verpflichtende Schulungen für Anwenderinnen und Anwender von KI-basierten Systemen – insbesondere in der Öffentlichen Verwaltung – zur Steigerung der digitalen Kompetenzen gefordert. „Wie der TÜV für Qualität, Sicherheit und Risikokontrolle steht, braucht es einen verpflichtenden Risiko-Check für KI-Anwendungen und neue Standards, Normen sowie Qualitätskriterien“, sagt Domscheit-Berg.

„Der aktuelle Umgang mit dieser Technologie ist verantwortungslos und erschreckend. Die Chancen Künstlicher Intelligenz lassen sich nur dann erreichen, wenn man ihre Risiken einschätzen und den Einsatz von KI davon abhängig machen kann. Es verfestigt sich der Eindruck, dass der Einsatz Künstlicher Intelligenz innerhalb der Bundesregierung ohne systematische Risikoabwägungen, Schutz vor Diskriminierung und ohne Evaluation in Bezug auf Effizienz, Grundrechteschutz und etwaige ‚Nebenwirkungen’ erfolgt. Diese Entwicklung ist besonders beim Einsatz solcher Systeme fahrlässig“, so die digitalpolitische Sprecherin des Bundestags.

Die Anfrage im Original

(ID:49523359)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte