Informationssicherheit und sensible Daten KI-Tool ermöglicht Datenschutz und Rechtssicherheit

Anbieter zum Thema

Ceyoniq Technology GmbH

Disy Informationssysteme GmbH

regisafe GmbH

Mit NAVA hat das Fraunhofer IAO eine Anwendung entwickelt, die Informationssicherheit für automatisierte Verwaltungsprozesse gewährleistet: sensible Daten werden durch Platzhalter ersetzt. Wie Nutzende ihre Datenschutzpräferenzen künftig selbstbestimmt und dienstübergreifend verwalten können, untersucht zudem das Fraunhofer IESE im Forschungsprojekt ddpp.

Automatisierte Verwaltungsprozesse mit KI-Tools erleichtern den Alltag – ihre Einführung bleibt für viele Behörden jedoch eine Hürde, sobald personenbezogene oder sicherheitsrelevante Daten verarbeitet werden. Das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO hat deshalb mit NAVA ein webbasiertes KI-Tool entwickelt, das die Automatisierung von Verwaltungsprozessen unter Berücksichtigung von Datenschutz, Informationssicherheit und rechtlichen Vorgaben ermöglicht: Noch vor der Verarbeitung ersetzt NAVA sensible Daten durch neutrale Platzhalter.

Das Sprachmodell verarbeitet ausschließlich geschützte Inhalte; anschließend setzt NAVA die ursprünglichen Angaben wieder an ihre vorgesehene Stelle ein. Betreiben lässt sich das Tool auf eigener oder selbst verwalteter Infrastruktur, verbunden mit einem geeigneten Sprachmodell – die Datenhoheit bleibt dadurch bei der jeweiligen Organisation.

Jedoch erhalten bisher lediglich Mitglieder des NAVA-Clubs Zugang zur Technologie. Und dies erfordert einen jährlichen Mitgliedschaftsbeitrag von etwa 24.000 Euro. Der NAVA-Club richtet sich insbesondere an Behörden, öffentliche Einrichtungen, Hochschulen, Forschungseinrichtungen und Organisationen der kritischen Infrastruktur. „Mit dem NAVA-Club schaffen wir einen geschützten Raum, in dem Organisationen mit unserem Tool konkrete KI-Anwendungen erproben und an ihre Anforderungen anpassen können“, erklärt Christopher Ruff, Projektleiter am Fraunhofer IAO. Mögliche Einsatzbereiche reichen vom Erstellen standardisierter Schreiben und Bescheinigungen bis hin zur Prüfung und Strukturierung von Informationen oder der Unterstützung wiederkehrender Freigabe- und Anfrageprozesse.

Neues Forschungsprojekt verwaltet Datenschutzpräferenzen

Innerhalb der Fraunhofer-Gesellschaft wird bereits an weiteren Lösungen für einen sicheren und souveränen Umgang mit Daten gearbeitet. Das Fraunhofer IESE untersucht im Forschungsprojekt ddpp (Decentralized Data Privacy Protocol), das bereits Mitte August gestartet ist, wie die Verwaltung von Datenschutzeinstellungen deutlich erleichtert werden kann.

Ein offenes Webprotokoll soll es ermöglichen, Datenschutzpräferenzen dienstübergreifend an einem selbst gewählten Ort zu verwalten, dem sogenannten „Personal Privacy Preferences Place“. Dort legen Nutzende ihre Einstellungen einmal zentral fest, statt sie bei jedem Dienst einzeln vornehmen zu müssen.

„Viele Menschen verlieren heute den Überblick darüber, wie ihre Daten von unterschiedlichen digitalen Diensten genutzt werden“, sagt Dr. Frank Elberzhager, Department Head Architecture-Centric Engineering und Projektleiter des Vorhabens am Fraunhofer IESE. „Wenn es gelingt, das Protokoll breit zu etablieren, könnte daraus ein neuer Standard für den Umgang mit Datenschutzpräferenzen entstehen.“

Der Nutzen zeigt sich insbesondere im Bereich der personalisierten Werbung, indem sich wiederkehrende Einwilligungsabfragen reduzieren lassen. Ebenso relevant ist der Ansatz für Gesundheitsdaten, denn hier verarbeiten zahlreiche digitale Anwendungen und vernetzte Geräte besonders sensible Informationen. Das Projekt untersucht daher, wie Nutzende auch in solchen Ökosystemen selbst bestimmen können, welche Gesundheitsdaten sie mit welchen Anwendungen teilen, und wie sich diese Entscheidungen technisch umsetzen lassen.

Das Projekt leistet einen Beitrag zur Stärkung von Privatheit, informationeller Selbstbestimmung und vertrauenswürdigen digitalen Infrastrukturen. Deshalb wird es im Rahmen der Fördermaßnahme „Plattform Privatheit – IT-Sicherheit schützt Privatheit und stützt Demokratie“ vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert – und hat eine Laufzeit von drei Jahren.

KI-Governance in Behörden

Raus aus der Sackgasse, rein in die Prozesse

Wenn die KI Fachverfahren programmiert

GovTech Deutschland stellt Werkzeuge für KI-gestützte Softwareentwicklung bereit

(ID:50962027)