KI-Modelle bieten großes Potenzial für das Daten- und Wissensmanagement der öffentlichen Verwaltungen. Unser Gastautor Nico Bäumer erläutert, worauf es dabei ankommt – rechtssichere Systeme und hochwertige Trainingsdaten gehören dazu. Sein Tipp: Retrieval Augmented Generation.
Anwenderfreundlich und daher im Geschäftalltag gut zu nutzen sind KI-Modelle, die auf natürlicher Sprache basieren.
Traditionelle Arbeitsabläufe bieten oft wenig Raum für Flexibilität, Effizienz und Nachverfolgbarkeit. Im Gegenteil: Manuelle Prozesse und papierbasierte Dokumentation sorgen häufig für umständliche Vorgänge, Fehler und Engpässe. Mit der voranschreitenden digitalen Transformation und neuen, aufstrebenden Technologien scheint die Lösung jedoch zum Greifen nah: Schon jetzt verändert generative KI (genAI) die Art und Weise, wie wir arbeiten. Viele Unternehmen erkennen bereits das Potenzial und setzen auf genAI zur Optimierung interner Prozesse. Der öffentliche Sektor hängt in diesen Belangen jedoch noch häufig hinterher. Nach wie vor herrschen hier in vielen Bereichen ein merklicher Innovationsrückstand und veraltete Technologien, die Flexibilität und Produktivität in Arbeitsabläufen hemmen. Dabei könnte die Öffentliche Hand deutlich von generativer KI profitieren, vor allem im Bereich des Wissens- und Informationsmanagements.
Gesucht und gefunden – Durchblick im Dokumentendschungel
Werden KI-Modelle richtig eingesetzt, helfen sie dabei, Dokumenten- und Geschäftsprozesse zu optimieren und können Routineaufgaben in vielen Fällen sogar vollständig automatisieren. KI-gestützte Dokumentenmanagement-Systeme (DMS) erkennen große Mengen von Schriftstücken automatisch, kategorisieren diese und können Schlüsselinformationen extrahieren, ganz ohne manuelles Eingreifen. So können sie zur schnellen und effektiven Aufbereitung von organisationseigenen Inhalten genutzt werden. Digitale Assistenzsysteme erlauben den Mitarbeitenden anschließend in intelligenter Weise auf diese Inhalte zuzugreifen, um schnelleren Zugang zu internem Knowhow zu erhalten.
Gerade in wissensintensiven Abteilungen wie der Entwicklung oder Planung kann das ein großer Vorteil sein, um die Informationen aus Artikeln, Berichten und Dokumenten effektiv zu verwerten. Aber auch in anderen Bereichen helfen KI-Systeme dabei, relevante Informationen aus unstrukturierten Daten zu extrahieren. In der Buchhaltung sind dank KI-Modellen etwa benötigte Informationen wie Absender- und Empfängerangaben oder Positions- und Steuerdaten schneller zur Hand denn je.
GenAI ist für alle da
Als besonders hilfreich erweisen sich im Geschäftsalltag KI-Modelle, die auf natürlicher Sprache basieren und über ein möglichst barrierefreies Sprachmodul zur Ein- und Ausgabe von Informationen verfügen. Dank Echtzeit-Chatfunktion können Fragen zu Dokumenten und Inhalten so in kürzester Zeit beantwortet werden. Außerdem macht die natürliche Sprachausgabe KI-Systeme für jeden und damit gerade auch für weniger technikaffine Mitarbeitende zugänglich.
Von dieser Demokratisierung der Informationen profitieren am Ende alle Beteiligten. Selbst in der Arbeit mit Kunden schlägt sich das effizientere Wissensmanagement nieder. Hier können Informationen dank KI einfacher personalisiert und Produkte und Dienstleistungen besser an den jeweiligen Kunden angepasst werden. Das zeigt sich wiederum in erhöhter Kundenzufriedenheit. Die Arbeit mit generativer KI macht sich intern vor allem durch beschleunigte Prozesse bemerkbar. So werden Zeit und Kosten eingespart, ohne dass die Qualität darunter leidet. In vielen Fällen nimmt die Qualität sogar eher zu, da mehr Informationen im Prozess selbst genutzt werden können. Reibungslose Prozess- und Arbeitsabläufe sorgen auch für zufriedenere Mitarbeiter, denn repetitive Tätigkeiten bleiben ihnen erspart und somit bekommen sie mehr Freiräume für kreative und strategische Aufgaben.
Stolperfallen kennen und meiden
Gerade deshalb nutzen technisch versierte Mitarbeitende häufig eigenständig KI-Tools, die frei im Internet zugänglich sind. Dabei machen sie sich jedoch nur selten Gedanken darüber, was mit den eingegebenen Daten passiert, und wie diese vom Anbieter weiterverarbeitet werden. Das stellt ein potenzielles Risiko dar und kann im schlimmsten Fall zum Verlust von firmeninternem Know-how führen. Um solche Verluste und einen Wildwuchs an selbst eingeführten Tools zu verhindern, müssen sich Organisationen rechtzeitig darum bemühen, ihren Mitarbeitenden rechtssichere KI-Systeme zur Verfügung zu stellen.
Für diesen Schritt setzen Organisationen auf zwei unterschiedliche Herangehensweisen. In vielen Fällen entscheiden sie sich dazu, ihre eigenen KI-Modelle zu trainieren. Zu diesem Zweck wird ein Trainingsdatensatz definiert, mit dem das Modell gefüttert wird. Das ist der entscheidende Punkt: Stimmt die Qualität oder der Umfang der eingespeisten Daten nicht, kann die KI auch keinen hochwertigen Output generieren. Sind Daten fehlerhaft oder schlecht gepflegt, kommt es vor, dass die KI fehlerhafte Informationen ausgibt. Zusätzlich neigen KI-Modelle aufgrund der hohen erforderlichen Datenmenge dazu, falsche Schlussfolgerungen zu ziehen und so Falschaussagen zu treffen. Mitarbeitende sollten deshalb KI-Systemen nicht blind vertrauen, sondern müssen den generierten Output hinterfragen und dazu in der Lage sein, inhaltliche Fehler zu erkennen. Liegt jedoch ein umfangreicher und korrekter Datensatz vor, verbessert sich das KI-Modell im Laufe der Zeit kontinuierlich durch den Einsatz von Machine Learning. Dadurch wird die Belegschaft zunehmend durch qualitativ hochwertige Ergebnisse entlastet. Besonders in der Öffentlichen Verwaltung fallen naturgemäß große Datenmengen an. Ein Umstand, der sich beim Training einer KI zu Nutze gemacht werden sollte.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Obwohl das Aufsetzen eines hauseigenen KI-Systems naheliegend ist, müssen Organisationen, die daran interessiert sind, bewusst sein, dass generative KI eine Menge Ressourcen verschlingt. Gerade kleinere Behörden verfügen häufig nicht über ausreichende Server-Kapazitäten oder das nötige Knowhow, um ein eigenes genAI-System zu entwickeln und instand zu halten. Deshalb nehmen viele Organisationen KI-Lösungen als Managed Service in Anspruch. Hier bietet sich die Methode der Retrieval Augmented Generation an, bei der Organisationen auf ein allgemeines KI-Modell zurückgreifen und dieses in ihren persönlichen Kontext überführen. Statt ein KI-System mit eigenen Daten zu trainieren, wird einem bestehenden Modell bei dieser Methode ein intelligenter Suchprozess vorgeschaltet, der Nutzeranfragen in einen relevanten Kontext einbettet. So liefert die KI organisations- und branchenbezogene Antworten. Aber auch hier gilt: der Output eines KI-Modells ist nur so gut wie seine Trainingsdaten. Daher lohnt es sich, bei der Auswahl des Anbieters besonders gut hinzuschauen. Anbieter, die über eigene Rechenzentren verfügen und ihre KI-Systeme in der EU hosten, kommen auch für stark regulierte Branchen wie das Gesundheitswesen in Frage.
Fazit
GenAI birgt großes Potenzial für das Daten- und Wissensmanagement, das mit dem richtigen Knowhow gewinnbringend ausgeschöpft werden kann. Auch wenn die Einführung eines generativen KI-Systems nicht ohne Herausforderungen kommt, lohnt es sich, die Möglichkeiten für die eigene Organisation zu prüfen, um von optimierten Prozessen und demokratisiertem Wissen zu profitieren.
Mit genAI eröffnen sich immer dann ganz neue Möglichkeiten, wenn hochwertige Daten, geschulte Mitarbeitende und die Integration von KI in Unternehmensprozesse sinnvoll kombiniert werden.
Nico Bäumer ist Chief Technology Officer der d.velop AG.