Kolumne: Algorithmus-Aversion Vertrauenssache KI: Wenn das bessere Ergebnis nicht genügt

Anbieter zum Thema

Materna Information & Communications SE

IBYKUS AG für Informationstechnologie

PROSOZ Herten GmbH

Was, wenn die künstliche Intelligenz recht hat und wir trotzdem lieber falsch liegen ­wollen? Professor Dr. Dr. Niehaves untersucht, warum Verwaltungsmitarbeitende algorithmischen ­Entscheidungen manchmal so wenig Vertrauen schenken. Und warum das ein echtes ­Problem sein kann.

Neulich habe ich mich ertappt. Beim Lesen eines Artikels über künstliche Intelligenz (KI) in der Buchbranche. Natürlich ging es um generative KI, die Texte schreibt. Nichts Neues, dachte ich. Aber dann stieß ich auf einen Satz, der mich stutzen ließ: „Das KI-Tool kann Absatzprognosen entwickeln, mit einer Genauigkeit von 85 bis 99 Prozent.“

Und da war er, mein Reflex: Muss ich sowas jetzt gut finden? Eine Maschine, die aus Daten der Vergangenheit die Zukunft berechnet? Irgendwie unheimlich. Und faszinierend. Und wie finde ich das als Autor? Möchte ich wirklich, dass meine neuesten, vielleicht sogar wahnsinnig innovativen Kolumnenideen vom Verlag einfach weggebügelt werden, nur weil ein KI-System sie für mittelmäßig interessant hielte? Weil die Maschine sagt: Das liest keiner?

Algorithmus-Aversion

Meine Reaktion auf das KI-Tool ist kein Einzelfall. Sie ist Teil eines gut erforschten Phänomens mit einem sperrigen Namen: Algorithmus-Aversion. Menschen neigen dazu, algorithmischen Empfehlungen zu misstrauen, selbst wenn diese nachweislich bessere Entscheidungen treffen als Menschen. Wir ziehen es oft vor, menschlicher Intuition oder Erfahrung zu folgen, selbst wenn die Maschine präziser, schneller und objektiver wäre.

Algorithmus-Aversion betrifft unsere eigene Voreingenommenheit gegenüber Maschinen – so wie meine vor einem KI-Tool, das meine Veröffentlichungen beurteilen will. Wir lehnen sie ab, weil sie uns fremd erscheinen. Oder weil sie uns in Bereichen übertreffen, in denen wir uns selbst gern als unersetzlich sehen. Oder weil uns die Ergebnisse nicht passen (könnten). Das zeigt sich heute, in einer immer mehr von KI durchdrungenen Welt, immer deutlicher, auch im öffentlichen Sektor.

Man würde ja denken, dass die öffentliche Verwaltung – als die Speerspitze technischer Innovation – hier anders ticken müsste. Digitale Transformation läuft hier on heavy rotation. Aber dass Vorbehalte so ausgeprägt sind, überrascht dann doch. Was, Sie haben es vermutet, Sie Unke? Wir haben in der größten KI-Transformationsstudie im öffentlichen Sektor (Veröffentlichung für Q4/2025 geplant) knapp 4.000 Verwaltungsmitarbeitende u. a. gefragt, wie sie zu algorithmischen Entscheidungssystemen stehen. Die Ergebnisse? Nennen wir es ruhig, ganz im Sinne der Algorithmus-Aversion, eine solide Abwehrhaltung. Circa 63 Prozent haben zum Beispiel der Aussage zugestimmt „Die Einschätzung menschlicher Experten bewerte ich höher als die eines KI-Systems – auch wenn dieses insgesamt bessere Entscheidungen als Menschen trifft.“ Und der letzte Halbsatz war der entscheidende Punkt: Wir haben in den Aussagen immer wieder betont, dass die KI – im fiktiven Fall – objektiv bessere Entscheidungen trifft. Und trotzdem wollten fast alle lieber auf den Menschen hören.

Warum entscheiden wir uns gegen etwas, das nachweislich besser ist?

Die Ergebnisse werfen eine einfache, aber unbequeme Frage auf: Warum entscheiden wir uns gegen etwas, das nachweislich besser ist? Die Antwort liegt, wie so oft, nicht in der Technik, sondern in uns Menschen. Psychologisch spielt unser Bedürfnis nach Kontrolle eine zentrale Rolle. Wer selbst entscheidet, fühlt sich handlungsfähig, verantwortlich und irgendwie sicherer. Eine Entscheidung an etwas Nicht-Menschliches abzugeben, kratzt an unserem allzu menschlichen Autonomiegefühl. Und dann ist da noch die emotionale Ebene: Wir trauen Menschen mehr, weil wir glauben, sie würden uns auch verstehen. Maschinen wirken dagegen kalt, unnachgiebig und fremd. Außerdem verzeihen wir Menschen ihre Fehler. Einer Maschine verzeihen wir gar nichts. Sie soll bitte perfekt funktionieren oder gar nicht.

Oder, um es mit einem Augenzwinkern zu sagen: Wenn es um die KI-Kollegin geht, hört die Kollegialität auf. Algorithmus-Aversion ist mehr als ein psychologischer Reflex. Sie hat reale Folgen. Wenn bessere Entscheidungen ignoriert werden, nur weil sie von einer KI stammen, verschenken wir systematisch Potenzial. Gerade in der öffentlichen Verwaltung, wo es um Fairness, Nachvollziehbarkeit und knappe Ressourcen geht, wäre der kluge Einsatz von KI manchmal nicht nur effizienter, sondern auch gerechter. Stattdessen bleiben Prozesse auf Bauchgefühl, alten Routinen und persönlichen Einschätzungen aufgebaut. Klar, KI hat manchmal Biases (Vorurteile), aber wir Menschen oft noch viel mehr. Sie spüren eine innerliche Abwehrhaltung gegen diese Argumente? Herzlich willkommen in der wunderbaren Welt der Algorithmus-Aversion!

Auswege aus der Aversion

Doch es gibt Auswege, Algorithmus-Aversion ist kein Schicksal. Sie lässt sich abbauen, wenn man Vertrauen aufbaut. Entscheidend ist, dass Entscheidungen nachvollziehbar sind. Wer versteht, wie ein System funktioniert, verliert (tendenziell) die Angst davor. Und wer erlebt, dass die KI wirklich unterstützt, ist eher bereit, ihr zuzuhören. Ein sinnvoller Weg ist die Kombination von Mensch und Maschine. „Human in the loop“. Die Entscheidung bleibt beim Menschen, wird aber durch datenbasierte Analysen besser vorbereitet. Hinzu kommen einfache, aber wirkungsvolle Schritte: Schulungen, Experimentierräume, Dialogformate.

Am Ende bleibt die Frage: Müssen wir wirklich alles der KI überlassen? Natürlich nicht. Aber wir sollten aufhören, sie aus Prinzip zu ignorieren. Denn wer konsequent auf bessere Entscheidungen verzichtet, nur weil sie von einer Maschine stammen, handelt nicht verantwortungsvoll, sondern trotzig. Die Verwaltung der Zukunft braucht keine Maschinen, die den Menschen ersetzen. Sie braucht Menschen, die klug genug sind, sich unterstützen zu lassen. Vielleicht braucht es also keinen Algorithmus, der alles entscheidet. Aber vielleicht braucht es auch nicht JEDES Mal das berühmte Bauchgefühl der Sachbearbeitenden, das spontan gegen den riesigen Datensatz spricht. Oder?

Kolumne

Warum KI Verwaltung menschlicher macht

Kolumne

Genug rumgespielt! Vom KI-Hype zur KI-Transformation

(ID:50504844)