KI-Strategien der öffentlichen Verwaltungen Wieso es nicht ohne KI-Governance geht

Anbieter zum Thema

Eviden

Ceyoniq Technology GmbH

Materna Information & Communications SE

Fabasoft Deutschland GmbH

Viele Organisationen haben eine KI-Strategie entwickelt. Jedoch mangelt es an einem Gesamtsystem, das den ganzheitlichen, integrierten und effizienten Einsatz von Künstlicher Intelligenz (KI) sicherstellt. Dr. Julia Knifka und Théodore Cussac sehen in einer KI-Governance den geeigneten Rahmen, um einen verantwortungsvollen und innovationsorientierten Einsatz von KI-basierten Systemen in der öffentlichen Verwaltung zu ermöglichen.

In den letzten Jahren haben zahlreiche öffentliche Organisationen KI-Strategien entwickelt und veröffentlicht. Grundlage ist die übergeordnete KI-Strategie der Bundesregierung. Auf sie bauen viele Bundes- und Landesministerien, Ämter und Städte ihre eigenen KI- oder Datenstrategien auf. Diese Strategien beinhalten meist eine Analyse des Status quo, eine Definition der Schlüsselthemen und die Ableitung von Maßnahmen für den Einsatz von KI-basierten Systemen in ihren jeweiligen Bereichen. Typische Maßnahmen umfassen die Identifikation von Best Practices und die Schaffung von Anreizsystemen.

In der Praxis zeigt sich: Der langfristige Betrieb und die Weiterentwicklung von KI-basierten Systemen werden durch begrenzte Ressourcen und parallel laufende digitale Anforderungen (wie z.B. die Einführung von Cloud Computing) erschwert. Obwohl Partnerschaften mit Start-ups, Universitäten, Agenturen und Innovationshubs bestehen, beschränken sich die Ergebnisse dieser Zusammenarbeit zu oft auf Randlösungen, Pilotprojekte oder einmalige Leuchtturmprojekte. Der langfristige Betrieb der eingeführten Systeme scheitert häufig, da Aspekte wie IT-Integration, Mitarbeiterschulung und Finanzierung nicht ganzheitlich berücksichtigt werden.

Viele der Herausforderungen haben einen Grund: Die überwiegende Mehrheit der Organisation hat bisher keine KI-Governance etabliert. Während die Strategien zwar Umsetzungsfelder definieren, liegt es in der fortlaufenden Verantwortung der KI-Governance, diese langfristig anzugehen und weiterzuentwickeln. Die ganzheitliche, integrative und effiziente Implementierung von KI-basierten Systemen innerhalb einer Organisation kann erst durch KI-Governance ermöglicht werden.

Die KI-Governance als Steuerungssystem

Die KI-Governance ist für jede Organisation das Grundgerüst für einen vertrauenswürdigen und innovationsorientierten Einsatz von KI.

Sie beschränkt sich nicht nur auf die Steuerung des technischen Lebenszyklus von KI-basierten Systemen oder auf die Formulierung ethischer Prinzipien. Vielmehr ist sie ein übergreifendes und übergeordnetes Steuerungssystem innerhalb der Aufbau- und Ablauforganisation. Die von uns empfohlene KI-Governance beruht auf einem ganzheitlichen Ansatz, der aus mehreren Bausteinen besteht:

• Fundament: Die Grundlage der KI-Governance bilden (verwaltungs-) rechtliche und ethische Rahmenbedingungen. Alle KI-bezogenen Aktivitäten der Organisation bewegen sich innerhalb dieses Rahmens.

• Säulen: Die KI-Governance stützt sich auf operative Handlungsfelder, die nahtlos mit den Kern- und Managementprozessen der Organisation verbunden sind. Hierzu gehören Datenmanagement, IT-Integration, Changemanagement, Wissensmanagement, Netzwerke und Nachhaltigkeit.

• Dach: Das Dach und Resultat der KI-Governance ist die innovative Fähigkeitsentwicklung. Diese erfolgt im Einklang mit den übergeordneten Organisationszielen.

Das Fundament: Rechtliche und ethische Rahmenbedingungen

Die rechtlichen und ethischen Rahmenbedingungen, wie sie in der KI-EU-Verordnung adressiert werden, bilden das Fundament der KI-Governance. Die Verordnung zur Festlegung harmonisierter Vorschriften für KI (EU KI AKT) ist als umfassendes Maßnahmenpaket zur Bewältigung von Herausforderungen im KI-Bereich führend. Sie zielt auf Kohärenz mit bestehendem Unionsrecht und sektorspezifischen Sicherheitsvorschriften ab. So wird ein ausgewogener Rechtsrahmen angestrebt, um KI ethisch verantwortungsvoll zu entwickeln, einzusetzen und zu regulieren.

Im Kontext einer umfassenden KI-Governance sollen gesetzliche Grundlagen und normative Standards in operative Richtlinien innerhalb der Organisation übertragen werden. Darum gilt es nun, sowohl die abstrakten Anforderungen an vertrauenswürdige KI zu konkretisieren als auch die Akteure der Organisationen zu unterstützen, um Handlungssicherheit zu gewährleisten. Dies kann durch grundlegende Governance-Maßnahmen und praktikable Instrumente wie Risikobewertungen, Erfüllung rechtlicher Anforderungen und ethische Konformitätsprüfungen geschehen.

Zur ethischen Konformitätsprüfung gehören beispielsweise:

• die Identifizierung potenzieller ethischer Dilemmata,

• die Bewertung der Auswirkungen auf Organisation, Mitglieder und Prozesse sowie

• die Abwägung von ethischen Werten.

Die Prüfung kann verschiedene Aspekte umfassen, von der Entwicklung von Richtlinien für Entscheidungstragende über Identifizierung neuer Rollen bzw. Gremien (z.B. Chief Ethics Officer, Ethik-Komitee) bis zur technischen Umsetzung von Werten (Robustheit, Verlässlichkeit, Transparenz) durch KI-spezifische Maßnahmen.

Auf der nächsten Seite: die Säulen – 6 operative KI-Handlungsfelder & das Dach – innovative Fähigkeitsentwicklung im Einklang mit den Organisationszielen.

(ID:49813597)