Definition Was sind Algorithmische Entscheidungssysteme (ADM-Systeme)?

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

Liferay GmbH

Algorithmische Entscheidungssysteme sind Anwendungen, die auf der Grundlage von Algorithmen Daten auswerten und so Entscheidungen treffen oder Empfehlungen geben. Diese Systeme basieren häufig auf Technologien wie maschinellem Lernen oder Big-Data-Analysen.

Als „Algorithmic Decision Making (ADM)“-System – zu deutsch: Algorithmisches Entscheidungssystem – werden computergestützte Systeme bezeichnet, die mithilfe von Algorithmen aus großen Datenmengen Kennzahlen errechnen, die zur Entscheidungsfindung beitragen. Sie kommen beispielsweise bei der Kreditvergabe oder der Einstellung von Personal zum Einsatz.

Regulierung notwendig

Grundsätzlich unterscheidet man bei entsprechenden System zwischen zwei Arten von Resultaten: die Klassifizierungen und das sogenannte Scoring beziehungsweise die Risikobewertungen. Ersteres kommt beispielsweise bei der Zuordnung der Schadensklassen bei einer Autoversicherung zum Einsatz. Hier hilft das Ergebnis bei der Einstufung. Im zweiten Fall wird hingegen die Wahrscheinlichkeit berechnet, mit der die bewertete Person oder das bewertete Objekt ein gewisses Verhalten zeigt. Ein solcher Risikoscore wird etwa von der Schufa berechnet.

ADM-Systeme basieren auf mathematischen Algorithmen, die vom Menschen auf Basis zur Verfügung stehender Daten trainiert wurden. Es gibt daher Bedenken, dass ADM-Systeme unbeabsichtigte Vorurteile und Diskriminierung aufgrund von Fehlern in den Daten, bei der Datenauswahl oder in der Programmierung enthalten können. Aus diesem Grund ist es wichtig, dass diese Systeme transparent und verantwortungsbewusst eingesetzt und auf mögliche Verzerrungen und Vorurteile geprüft werden. Die Nutzung von ADM-Systemen sollte zudem auch unter ethischen und rechtlichen Gesichtspunkten betrachtet werden, insbesondere wenn sie für Entscheidungen verwendet werden, die schwerwiegende Auswirkungen auf Menschen haben können (z.B. bei Asylverfahren). Sowohl auf EU- als auch auf Bundesebene gibt es daher bereits Bestrebungen entsprechende Systeme zu regulieren: mit dem AI Act etwa, aber auch Transparenzregister sind im Gespräch.

Die Geschichte der ADM-Systeme

ADM-Systeme haben sich im Laufe der Zeit stark weiterentwickelt. Ursprünglich basierten sie auf einfachen mathematischen Modellen wie Regressionsanalysen und Entscheidungsbäumen. In den 1980er Jahren begannen Unternehmen beispielsweise, ADM-Systeme in großem Umfang einzusetzen, um einfache Entscheidungen wie Kreditvergaben oder Versicherungspolicen zu automatisieren und so ihre Effizienz zu steigern. Diese Expertensysteme zählen zwar auch zum weiten Feld der künstlichen Intelligenz, sind aber bei heutigen Diskussion nicht mitgemeint, da die ihnen zugrundeliegenden Regel nachvollziehbar und somit die Entscheidungen von unabhängigen Dritten gut überprüfbar sind.

Heute werden ADM-Systeme jedoch in einer Vielzahl von Anwendungen und Bereichen eingesetzt – darunter der Finanzsektor, das Gesundheitswesen, der Bildungsbereich, der Einzelhandel und die Regierung. Bereits im Laufe der 2000er Jahre wurden die Systeme immer ausgefeilter. Sie machten sich nun maschinelle Lernverfahren zunutze. Dank Big Data und Cloud Computing stehen zudem enorme Datenmengen für die Entscheidungsfindung zur Verfügung. Die Entscheidung selbst sowie auch der Weg dorthin sind nun damit allerdings weniger gut nachvollziehbar.

Ein weiterer wichtiger Fortschritt in der Entwicklung von ADM-Systemen ist daher die Verwendung von sogenannten Erklärbarkeitstechnologien. Diese ermöglichen es, die Entscheidungen der Systeme zu erklären und die Gründe für die getroffenen Entscheidungen zu verstehen. Experten zufolge lässt sich so die Akzeptanz der Technologie bei den Nutzern und Nutzerinnen steigern. Zudem sind sie auch bei Zulassungs- und Zertifizierungsverfahren sowie zur Erfüllung von Transparenzpflichten eine zentrale Voraussetzung.

(ID:49268897)