Thüringen Grundrechte in Gefahr? Datenschützer gehen KI-Pläne zu weit

Anbieter zum Thema

G DATA CyberDefense AG

Ceyoniq Technology GmbH

IBYKUS AG für Informationstechnologie

Künstliche Intelligenz soll der Polizei bei der Arbeit helfen. Die Opposition sieht die Pläne kritisch. Auch der Landesdatenschützer hat teils starke Bedenken.

Die Thüringer Landesregierung will die Sicherheitsarchitektur im Land modernisieren und Ermittlern mit dem Einsatz von künstlicher Intelligenz neue Möglichkeiten in die Hände legen. Doch die Pläne für ein neues Polizeiaufgabengesetz sind umstritten. Es geht um Überwachung, Verhaltensmuster und automatisiertes Verwerten von Daten. Der Opposition gehen die Pläne zu weit.

Auch Thüringens oberster Datenschützer Tino Melzer sieht zwar die Notwendigkeit für moderne Polizeiarbeit, hält einige der Vorhaben aber für problematisch. Bekannt geworden ist bislang ein Referentenentwurf für Änderungen im Polizeiaufgabengesetz, bis zur Verabschiedung des Gesetzes im Landtag kann sich noch viel ändern.

Wo soll KI zum Einsatz kommen können?

Vor allem dort, wo automatisiert Daten ausgewertet werden können. Ein Beispiel: In dem Entwurf zum Polizeiaufgabengesetz steht, dass die Polizei etwa zur Gefahrenabwehr Bildaufzeichnungen von Personen anfertigen können soll. Das wäre etwa auf dem Anger in Erfurt denkbar, der als gefährlicher Ort eingestuft ist und wo Videoüberwachung bereits installiert ist.

Zudem sieht der Entwurf vor, dass diese Aufzeichnungen automatisch ausgewertet werden können. „Die automatische Auswertung darf nur auf das Erkennen solcher Verhaltensmuster ausgerichtet sein, die auf die Entstehung einer Gefahrensituation oder die Begehung einer Straftat hindeuten“, heißt es im Entwurf.

Warum könnte das aus Datenschutz-Perspektive problematisch sein?

Datenschützer Melzer stellt infrage, wie gut die Erkennung von Verhaltensmustern wohl funktionieren wird. Er befürchtet, dass auch Daten unbescholtener Bürger ausgewertet werden könnten. Verzichtet die KI auf eine Datenauswertung, wenn ein Bürger auf einem öffentlichen Platz ein medizinisches Problem hat oder vermutet sie eine vermeintliche Gefahrensituation? Kann sie unterscheiden zwischen einer gewalttätigen Auseinandersetzung und einem Pärchen, das sich umarmt?

„Eine Überwachung im öffentlichen Raum ist immer ein erheblicher Eingriff in das Grundrecht der informationellen Selbstbestimmung“, betont Melzer. Es gehe «um hochfrequente Orte, also wo eine Vielzahl an Grundrechtsträgern entlangläuft», sagt er.

Gibt es weitere Bedenken?

Ja. Neben der möglichen Fehleranfälligkeit der Systeme warnt Melzer zum Beispiel vor einem „Chilling-Effect“, also eine Art eher ungewollte abschreckende Wirkung, dass Menschen sich in dem Wissen um die Überwachung anpassen und nicht auffallen wollen. „Das ist eine Freiheitsbeschränkung aus meiner Sicht.“

Auch die automatisierte Auswertung biometrischer Daten soll künftig möglich sein. Was hat es damit auf sich?

Im Entwurf steht, dass die Polizei unter bestimmten Voraussetzungen biometrische Daten zu Gesichtern und Stimmen „mit öffentlich zugänglichen personenbezogenen Daten aus dem Internet mittels einer automatisierten Anwendung zur Datenverarbeitung biometrisch abgleichen“ können soll. Demnach soll das etwa zur Abwehr einer bestehenden Gefahr für die Sicherheit des Bundes oder eines Landes oder für Leib, Leben oder Freiheit einer Person möglich sein.

„Aus meiner Sicht ist das sehr, sehr kritisch“, sagt Melzer. Ein nicht unerheblicher Teil von Menschen könnte in eine solche Maßnahme einbezogen und überwacht werden, findet der Landesdatenschützer. „Was ist als öffentlich-zugänglich zu verstehen? Sind das soziale Medien auch wie Instagram und andere?“, fragt Melzer.

Da hierfür Zugangsdaten erforderlich sind, dürften diese aus seiner Sicht nicht unbedingt als öffentlich zugänglich gelten. Ihm fehlen im Entwurf dazu aber konkrete Angaben. Aus Melzers Sicht wäre hier eine Berichterstattung an den Landtag angebracht, damit sich das Parlament eine Meinung darüber bilden kann, „ob das eine gute Idee gewesen ist“, wie Melzer sagt.

Moderne Polizeiarbeit und Datenschutz – geht das?

Aus Sicht von Melzer kann das klappen. Das sei aber auch eine Frage der Technik. „Eine Rechtsgrundlage wird man hinbekommen.“ Der Gesetzgeber müsse im Gesetz nur sehr konkret werden. „Man muss entsprechende Formulierungen finden und da sehe ich hier noch ein bisschen Überarbeitungsbedarf.“ Seiner Meinung nach ist es auch für Polizistinnen und Polizisten wichtig, dass sie wissen, was sie dürfen und was nicht. Der aktuelle Referentenentwurf brauche an einigen Punkten mehr Klarheit.

Stuttgart

Cloud alleine macht auch nicht glücklich

Initiative D21 und TU München

Wird „Digital Only" akzeptiert? Erste Ergebnisse des eGovernment Monitors

(ID:50474582)