KI und Datensouveränität Open Source als Schlüssel zu mehr Unabhängigkeit

Anbieter zum Thema

SUSE Software Solutions Germany GmbH

publicplan GmbH

SysEleven GmbH

mgm technology partners GmbH

Die zunehmende Nutzung von künstlicher Intelligenz kann die Abhängigkeit von internationalen Anbietern verstärken und wirft gerade im Hinblick auf den öffentlichen Sektor neue Fragen zur Datenkontrolle und -sicherheit auf. Open Source rückt dabei immer stärker in den Fokus – als Weg zu mehr digitaler Souveränität.

Vielfältige Möglichkeiten eröffnet der Einsatz künstlicher Intelligenz im öffentlichen Sektor – egal, ob es darum geht, Prozesse zu beschleunigen oder die Beschäftigten bei ihrer Arbeit zu entlasten. In den vergangenen Monaten und Jahren haben bereits einige Behörden in Bund, Ländern und Kommunen damit begonnen, erste Erfahrungen mit KI-Anwendungen zu sammeln. In Städten wie Berlin und Heidelberg helfen beispielsweise intelligente Chatbots, öffentliche Verwaltungsdokumente durchsuchbar zu machen oder Bürgeranfragen schneller zu beantworten. Andere KI-Tools unterstützen Verwaltungsmitarbeitende beim Recherchieren und Aufbereiten von Themen, indem sie Textentwürfe erstellen oder bestehende Texte kürzen.

Künstliche Intelligenz

Schriftliche Anfragen sinnvoll nutzen

Hamburg

LLMoin hat Testphase verlassen

Schatten-KI, Sicherheitsrisiken und Abhängigkeiten

Abseits der Entwicklung und Nutzung erster Prototypen zeigen sich allerdings auch einige Stolpersteine. So nutzen laut einer Studie der Software AG derzeit mehr als die Hälfte aller Mitarbeiter-KI-Tools, die nicht von ihrer Organisation bereitgestellt werden. Diese KI-Tools – häufig als Schatten-KI bezeichnet – befinden sich außerhalb der Kontrolle der IT-Abteilungen und werden damit oftmals ohne notwendige Sicherheitsüberprüfungen oder regelmäßige Updates genutzt. Dies birgt, gerade im öffentlichen Sektor, erhebliche Risiken für die IT-Sicherheit und Datenintegrität.

Verwaltungseinrichtungen unterliegen strengen Datenschutz- und Transparenzvorgaben. Die meisten derzeit verfügbaren KI-Anwendungen wurden jedoch nicht mit Blick auf die Anforderungen stark regulierter Bereiche entwickelt. Gleichzeitig steigen mit dem EU AI Act die Anforderungen an den Datenschutz und erfordern die Implementierung von Schulungsprogrammen, um über mögliche Risiken und Sicherheitsmaßnahmen zu informieren. Denn ein unkontrollierter Einsatz solcher KI-Technologien kann zu einem Abfluss sensibler Daten führen. Die Sicherheitsfirma Cyberhaven schätzt, dass es sich bei elf Prozent der in ChatGPT eingegebenen Informationen um vertrauliches Material handelt. Hinzu kommt die Gefahr gezielter Manipulation von Trainingsdaten – sogenanntes Data Poisoning – das KI-Modelle in ihrer Entscheidungsfindung nachhaltig verfälschen kann.

Darüber hinaus entstehen durch die starke Marktstellung einzelner Anbieter zunehmend einseitige Abhängigkeiten. Bereits heute zeigt sich eine wachsende digitale Abhängigkeit entlang globaler technologischer Wertschöpfungsketten. Können Anbieter Preise, Lizenzbedingungen und Nutzungsmöglichkeiten einseitig vorgeben, schränkt das die digitale Handlungsfähigkeit staatlicher Institutionen erheblich ein. Langfristig drohen durch diesen Vendor Lock-In ein erheblicher Anstieg der Betriebskosten sowie eine eingeschränkte Flexibilität bei der Auswahl zukünftiger Technologien. Laut dem Digital Dependence Index (DDI), der die Abhängigkeit von ausländischer Software, Hardware und geistigem Eigentum misst, liegt der aktuelle Wert für Deutschland bei 0,82 – das bedeutet, dass 82 Prozent der benötigten digitalen Technologien aus dem Ausland stammen.

Private AI für digitale Souveränität

Angesichts dieser Entwicklungen spricht einiges für eine Private-KI, also den Aufbau und Betrieb eigener KI-Plattformen in einer kontrollierten Infrastruktur. Wie eingangs erwähnt, haben bereits erste IT-Organisationen in der öffentlichen Verwaltung damit begonnen, ihre eigenen KI-Lösungen zu entwickeln. Ein wesentliches Argument für Private KI ist der umfassende Schutz sensibler Informationen. Gerade Einrichtungen der öffentlichen Verwaltung verarbeiten besonders schützenswerte Daten – von Sozial- und Gesundheitsdaten bis hin zu sicherheitsrelevanten Informationen. Eine lokal betriebene KI-Infrastruktur ermöglicht eine strikte Zugriffskontrolle und verhindert, dass Daten ungewollt in externe Systeme oder globale Cloud-Plattformen abfließen. Auf diese Weise lässt sich sicherstellen, dass die Datenverarbeitung ausschließlich zweckgebunden und im Einklang mit den geltenden Datenschutzanforderungen erfolgt.

Hinzu kommt die Möglichkeit, Transparenz und regulatorische Vorgaben konsequent umzusetzen, denn eine Private-KI-Architektur erlaubt eine vollständige Einsicht in Modelle, Trainingsdaten und Systemverhalten. Auch die Fähigkeit, schnell auf neue gesetzliche Anforderungen zu reagieren, spricht für eine eigene KI-Infrastruktur. Die regulatorischen Rahmenbedingungen für den KI-Einsatz befinden sich in einem kontinuierlichen Wandel. Während externe Lösungsanbieter oft Zeit benötigen, um ihre Produkte anzupassen, können öffentliche Einrichtungen bei selbst verwalteten Plattformen eigenständig und kurzfristig reagieren – und so Compliance-Risiken minimieren.

Open Source als Grundlage für KI

Die Entwicklung einer privaten KI ist jedoch oft ein mühsamer, komplexer und zeitaufwändiger Prozess. Damit öffentliche Einrichtungen bei der Umsetzung nicht in neue technologische Abhängigkeiten geraten, ist eine sorgfältige Auswahl der eingesetzten Software entscheidend. Offene Standards und Open Source Software (OSS) spielen hierbei eine zentrale Rolle: Sie ermöglichen Kontrolle über die eigene Infrastruktur, langfristige Unabhängigkeit und volle Transparenz.

Während Unternehmen bereits seit Jahren verstärkt auf Open Source setzen, tut sich die öffentliche Verwaltung in Deutschland weiterhin schwer mit der Umsetzung. Laut einer Umfrage halten nur 35 Prozent der Beschäftigten in öffentlichen Verwaltungen den Einsatz von Open Source Software für wichtig – trotz zahlreicher politischer Bekenntnisse zur digitalen Souveränität. Die Ursachen sind vielfältig und reichen von fehlendem Fachpersonal und unzureichenden Supportstrukturen bis hin zu mangelhaften Schulungsangeboten und rechtlichen Unsicherheiten, etwa bei Vergabeverfahren.

Budget, Agenda, Produkte

„Bei Fachverfahren drängt sich Open Source geradezu auf“

Doch was genau bedeutet Open Source eigentlich? Damit Software als Open Source gilt, muss ihr Quellcode offen einsehbar, frei nutzbar und beliebig veränderbar sein. Das ermöglicht eine eigenständige Weiterentwicklung und Prüfung – insbesondere im Hinblick auf Sicherheit, Datenhoheit und Transparenz. Im KI-Bereich umfasst dies nach der Definition der Open Source Initiative (OSI), neben dem Code auch Trainingsdaten und Modell Parameter Open Source sind. Der öffentliche Quellcode erlaubt Behörden, Anwendungen zu analysieren, Sicherheitslücken schnell zu schließen und die Einhaltung eigener Standards sicherzustellen. Durch die große Gemeinschaft von Entwicklern und Sicherheitsexperten – der Community – lassen sich Fehler im „Viel-Augen-Prinzip“ identifizieren und schneller durch Sicherheitsupdates beheben als bei proprietären Lösungen.

Allerdings bringt der Einsatz von OSS auch Herausforderungen mit sich. Open Source-Anwendungen unterliegen schnellen Innovationszyklen. Organisationen müssen in der Lage sein, diese Anwendungen dauerhaft auf dem aktuellen Stand zu halten, anzupassen und permanent weiterzuentwickeln. Dafür braucht es entweder entsprechend qualifiziertes eigenes Personal oder den Rückgriff auf spezialisierte Dienstleister, die Support, Wartung und Zertifizierung übernehmen können.

Echte Investitionen statt Absichtsbekundungen

In einer vernetzten, digitalisierten Welt erfordert die steigende Verwundbarkeit von IT-Infrastrukturen und Anwendungen eine kontinuierliche Stärkung der Resilienz auf allen Ebenen – und insbesondere auch beim Einsatz von Künstlicher Intelligenz.

Open-Source-Software kann hier zum Schlüssel werden: Sie sorgt dafür, dass Wissen, Tools und Technologien weltweit zugänglich sind und von einer breiten Gemeinschaft weiterentwickelt werden. Sie kann daher essenziell werden, um eine faire, offene und nachvollziehbare KI-Entwicklung voranzutreiben. Damit OSS ihr Potenzial im öffentlichen Sektor entfalten kann, sind jedoch nicht nur politische Absichtserklärungen erforderlich – es braucht auch strategische Investitionen in Know-how, Strukturen und rechtliche Rahmenbedingungen.

Aufruf zur Beteiligung

Baden-Württemberg erarbeitet Datenstrategie

(ID:50380178)