Forschungsprojekt KISTRA „Kommissar“ KI soll Straftaten im Netz früher erkennen

Am 01. Juli 2020 ist das Forschungsprojekt KISTRA (Einsatz von KI zur Früherkennung von Straftaten) gestartet. Ziel ist es herauszufinden, wie und unter welchen Rahmenbedingungen Künstliche Intelligenz (KI) eingesetzt werden kann, um durch Datenanalyse frühzeitig Hasskriminalität im Internet zu erkennen.

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

mgm technology partners GmbH

Das Vorhaben fußt auf der „Schutz vor Kriminalität und Terrorismus“-Initiative des nationalen Sicherheitsforschungsprogrammes beim Bundesministerium für Bildung und Forschung (BMBF) und soll die Entwicklung rechtskonformer KI und Verfahren zur Erfassung und Bewertung sicherheitsrelevanter Inhalte im Internet voranbringen. Dazu soll die mögliche Anwendung von KI in Sicherheitsbehörden in einem ganzheitlichen Ansatz erforscht werden: Sowohl technische als auch sozialwissenschaftliche, ethische und rechtliche Betrachtungen sollen im Projekt berücksichtigt werden.

„Künstliche Intelligenz wird eine Schlüsseltechnologie im Umgang mit den Herausforderungen von Hasskriminalität. KISTRA untersucht ihre Anwendung zur Unterstützung der Ermittler bei den Sicherheitsbehörden“, erläutert die Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS). Hasskriminalität steht dabei für politisch motivierte Straftaten, die sich zum Beispiel in Form von Morddrohungen, Volksverhetzung oder Beleidigungen gegen Menschen einer tatsächlichen oder zugeschriebenen gesellschaftlichen Gruppe richten.

Die Datenmenge, die dazu täglich im Netz ausgetauscht wird, wachse kontinuierlich und sei ohne die Unterstützung durch Methoden der KI kaum mehr bearbeitbar. Insbesondere das Deep Learning habe sich für Klassifikationen von großen Datenmengen unterschiedlichster Datentypen bewährt.

Zu den übergeordneten Zielen des Projekts gehören unter anderem:

• die Betrachtung der Rechtmäßigkeit und der ethischen Vertretbarkeit der angestrebten KI-Lösungen und daraus resultierender Methoden für Sicherheitsbehörden,

• die Erkennung und sozialwissenschaftliche Betrachtung politisch motivierter Hassreden und „Hasskriminalität“ im Internet,

• die Erarbeitung und Implementierung von adaptiven KI-Methoden zur Unterstützung der polizeilichen strafrechtlichen Bewertung von Vorgängen, die Hasskriminalität betreffen, sowie

• die ganzheitliche Betrachtung der einzelnen technischen Komponenten und wissenschaftlichen Ergebnisse und deren Übertragung in eine technische Gesamtlösung (Framework).

An dem für drei Jahre angesetzten Projekt beteiligt sich ein Konsortium aus neun Partnern, geleitet von der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (ZITiS). Neben ZITiS und dem Bundeskriminalamt (BKA), das zugleich Partner und Endanwender ist, sind sieben weitere Partner beteiligt: die Johannes-Gutenberg-Universität Mainz, die Ludwig-Maximilians-Universität München, Munich Innovation Labs GmbH, die RWTH Universität Aachen, die Technische Universität Berlin, die Technische Universität Darmstadt und die Universität Duisburg-Essen. Das Forschungsprojekt verfügt über ein Gesamtbudget von 2,98 Millionen Euro.

Hintergrund

Die Polizeiliche Kriminalstatistik zeigt in den vergangenen Jahren einen deutlichen Anstieg von politisch motivierten Straftaten mit Internetbezug auf. Die Bundesregierung begegnet dieser Entwicklung mit einer Gesetzesinitiative zur Bekämpfung des Rechtsextremismus und der Hasskriminalität, die am 18. Juni 2020 vom Bundestag angenommen wurde.

Soziale Netzwerke mit mindestens zwei Millionen in der Bundesrepublik Deutschland registrierten Nutzern werden darin verpflichtet, bestimmte strafbare Inhalte, die ihnen im Rahmen von Nutzerbeschwerden bekannt werden, an das Bundeskriminalamt zu melden, damit das BKA die Strafverfolgung bei den zuständigen Sicherheitsbehörden veranlassen kann.

Zur Umsetzung dieses Vorhabens ist das BKA aktuell mit dem Aufbau einer neuen zentralen Meldestelle unter anderem für Hasskriminalität betraut. Auch dabei wird die ZITiS durch die Bereitstellung informationstechnischer Fähigkeiten, zum Beispiel durch das Erforschen und Entwickeln von vertrauenswürdiger KI, unterstützen.

(ID:46679056)