Kolumne Ist schattig heute!

Anbieter zum Thema

G DATA CyberDefense AG

IBYKUS AG für Informationstechnologie

Mein Videotermin Suite | Voigtmann GmbH

KI ist in der Verwaltung angekommen, aber nicht immer dort, wo sie offiziell sein sollte. Professor Niehaves analysiert, weshalb private KI-Zugänge, fehlende Leitplanken und organisatorische Trägheit ein strukturelles Risiko erzeugen. Und was jetzt klüger ist als reflexartige Verbote.

Ist schattig heute, aber nicht draußen, sondern im System. In der Verwaltung scheint die Sonne der künstlichen Intelligenz (KI) längst hell zu strahlen, zumindest auf Kongressen, in Strategiepapieren und auf LinkedIn. Doch hinter den Kulissen ist es erstaunlich schattig. Dort, wo Mitarbeitende mit privaten Accounts Texte zusammenfassen lassen, wo sensible Informationen ungeschützt in frei verfügbare KI-Tools wandern und wo niemand so genau weiß, wer eigentlich wofür verantwortlich ist.

Schatten-KI nennt man das. Oder auch „Bring Your Own AI“ (BYOAI). Gemeint ist damit: Mitarbeitende bringen ihre eigenen KI-Werkzeuge mit zur Arbeit. So wie früher das private Smartphone. Schatten-KI entsteht dort, wo diese berufliche KI-Nutzung außerhalb genehmigter Regeln erfolgt. Und das ist kein Randphänomen. Technisch lässt es sich beispielsweise über die Art der verwendeten Accounts fassen, das heißt, ob KI über zentral administrierte, dienstliche Identitäten genutzt wird oder über private Instanzen.

Genau hier wird es interessant: 2025 erfolgten rund 72 Prozent der beruflichen KI-Nutzung (hier: generative KI in Unternehmen und Behörden) über persönliche Accounts. 2026 ist dieser Anteil zwar gesunken, liegt aber immer noch bei 47 Prozent.

Mit anderen Worten: Fast jede zweite KI-Interaktion im beruflichen Kontext entzieht sich weiterhin der formalen Governance. Schatten-KI ist damit kein individuelles Fehlverhalten, sondern ein Strukturproblem.

Dabei liegt das dominierende Risiko nicht in der „KI an sich“, sondern in dem, was im Schatten passiert: unkontrollierte Datenflüsse und eine schleichende Verantwortungsdiffusion. Wer lädt was wohin? Wer prüft die Ergebnisse? Wer trägt am Ende die fachliche Verantwortung? Eine globale Studie der University of Melbourne (2025) mit über 48.000 Befragten zeichnet hier ein ernüchterndes Bild: Mehr als die Hälfte der Beschäftigten (in allen Sektoren) macht ihre KI-Nutzung nicht transparent und präsentiert generierte Inhalte als eigene Arbeit. Rund 48 bis 49 Prozent geben an, sensible interne Informationen in öffentliche KI-Tools hochgeladen zu haben. Und 66 Prozent nutzen KI-Outputs, ohne sie kritisch zu bewerten. Das Problem ist also nicht die Maschine. Es ist die Kombination aus Bequemlichkeit, Intransparenz und fehlenden Leitplanken.

Und in der öffentlichen Verwaltung? Wir an der Universität Bremen wollten es genauer wissen. 10.509 Mitarbeitende haben wir in den letzten Monaten in deutschen öffentlichen Verwaltungen befragt und das Ergebnis ist wirklich aufschlussreich: Privat ist KI längst Alltag. Nur 18 Prozent der Befragten haben privat noch nie ein entsprechendes KI-System genutzt. Ein gutes Drittel (38 Prozent) nutzt es mindestens wöchentlich, ein relevanter Anteil (13 Prozent) sogar täglich. Erfahrung, Selbstverständlichkeit und KI-Kompetenz entstehen damit (auch) außerhalb des dienstlichen Rahmens.

Im Beruflichen scheint das Bild zunächst zurückhaltender. In etwa die Hälfte (50 Prozent) der Verwaltungsmitarbeitenden gibt an, KI noch nie für die Arbeit genutzt zu haben. Doch gleichzeitig existiert eine relevante Gruppe von Power Usern, die mindestens wöchentlich (13 Prozent), teils täglich mit KI arbeitet (4 Prozent).

Legt man hier die jeweils geltenden Nutzungsbestimmungen zugrunde, zeigt sich ein bemerkenswerter Befund: Rund die Hälfte der beruflichen KI-Nutzung in der öffentlichen Verwaltung erfolgt gegen bestehende Regelungen, also im Schatten!

Für das Warum hilft es, sich die Motivlage anzuschauen. Warum greifen Verwaltungsmitarbeitende überhaupt zu KI, egal ob sonnig oder schattig? Die Antworten unserer Befragung sind erstaunlich nüchtern. Es geht nicht um Spieltrieb, nicht um Technikbegeisterung und auch nicht um Rebellion. Es geht um produktive Arbeit: An erster Stelle steht die Effizienzsteigerung bei Routineaufgaben (23 Prozent). Dahinter folgen die Reduzierung von Fehlern und Inkonsistenzen mit rund 19 Prozent sowie die Verbesserung der Bürgerkommunikation (zum Beispiel E-Mails-Schreiben) und die Unterstützung bei der Entscheidungsfindung, jeweils mit gut 16 Prozent. Das Muster ist klar: KI wird dort genutzt, wo sie hilft, schneller, präziser oder verständlicher zu arbeiten.

Schatten-KI entsteht hier also nicht primär aus Regelignoranz, sondern aus Leistungsdruck. Sie ist weniger Ausdruck von Widerstand als von Pragmatismus: Mitarbeitende nutzen, was funktioniert. Und wenn offizielle Lösungen fehlen oder zu langsam bereitgestellt werden, wandert man in den Schatten. Nicht aus Trotz, sondern aus Gründen der Produktivität.

Genau vor diesem Hintergrund ist es wichtig, als Verwaltung die richtigen Maßnahmen zu ergreifen. Wer Schatten-KI primär wegverbieten will, wird sie nicht los, denn „Wasser findet seinen Weg“! Hingegen geht es darum, sie kontrolliert zu ent-schatten. Das bedeutet zunächst sichtbare, zugelassene Alternativen zu schaffen, damit Mitarbeitende nicht auf private Instanzen ausweichen müssen. Es bedeutet, messbare Guardrails einzuziehen – Data Loss Prevention, Logging, saubere Identity- und Zugriffsstrukturen. Es bedeutet, klare Verantwortlichkeiten zu definieren und risikobasierte Freigabeprozesse zu etablieren, statt pauschaler Verbote. Es bedeutet, verpflichtende KI-Kompetenz-Programme aufzubauen, die sich an EU-KI-Verordnung, Datenschutz und Cybersicherheit orientieren. Und es bedeutet übrigens nicht, mehr als ein halbes Jahr für eine simple KI-Dienstanweisung oder -Dienstvereinbarung zu brauchen!

Schatten entsteht (nur) dort, wo Praxis schneller ist als Struktur. Und wer die Struktur effektiv stärkt, braucht keine Taschenlampen mehr.

Kolumne

Tool-FOMO oder: Warum wir KI nicht im Zuckerrausch kaufen sollten

Kolumne

Warum KI Verwaltung menschlicher macht

(ID:50769950)