KI-generierte Deepfakes erkennen Deepfake-Angriffe auf biometrische Gesichtsdaten werden zunehmen

Anbieter zum Thema

Gartner Deutschland GmbH

Fabasoft Deutschland GmbH

mgm technology partners GmbH

SMART CJM GmbH

Gartner prognostiziert, dass schon bis 2026 aufgrund von KI-generierten Deepfakes ein Drittel der Unternehmen Identitätsüberprüfungs- und Authentifizierungslösungen auf Basis von biometrische Gesichtsdaten als unzuverlässig betrachten werden.

Laut Gartner werden bis 2026 Angriffe mit Hilfe von KI-generierten Deepfakes auf biometrische Gesichtsdaten dazu führen, dass 30 Prozent der Unternehmen solche Identitätsüberprüfungs- und Authentifizierungslösungen nicht mehr für zuverlässig halten werden.

Künstliche Intelligenz und Demokratie

Wahlen in Zeiten von Deepfakes

„In den letzten zehn Jahren gab es mehrere Wendepunkte in Bereichen der KI, die die Erstellung synthetischer Bilder ermöglichen. Diese künstlich erzeugten Bilder von echten Gesichtern, so genannte Deepfakes, können von böswilligen Akteuren genutzt werden, um die biometrische Authentifizierung zu untergraben oder ineffizient zu machen“, sagt Akif Khan, VP Analyst bei Gartner. „Infolgedessen könnten Unternehmen beginnen, die Zuverlässigkeit von Identitätsüberprüfungs- und Authentifizierungslösungen in Frage zu stellen, da sie nicht in der Lage sind zu erkennen, ob es sich bei dem Gesicht der zu überprüfenden Person um eine echte Person oder ein Deepfake handelt.“

Identitätsüberprüfungs- und Authentifizierungsprozesse, die Gesichtsbiometrie verwenden, verlassen sich heute auf die Erkennung von Präsentationsangriffen (Presentation Attack Detection, PAD), um die Echtheit des Benutzers zu beurteilen. „Die aktuellen Standards und Testverfahren zur Definition und Bewertung von PAD-Mechanismen decken keine digitalen Injektionsangriffe ab, bei denen KI-generierte Deepfakes verwendet werden, die heute erstellt werden können“, so Khan.

Bei einem Präsentationsangriff nutzen Angreifer die physischen oder biometrischen Eigenschaften einer anderen Person, um deren Identität anzunehmen. Bei digitalen Injektionsattacken werden die Sicherheitsmaßnahmen einer Kamera umgangen und gefälschte Daten direkt in den Datenstrom eingeschleust. Diese Technik kann eingesetzt werden, um Systeme zur biometrischen Verifizierung und Authentifizierung zu täuschen. Indem Angreifer Replay-Angriffe oder künstlich erstellte Bilder, wie Deepfakes, in den Datenfluss einbringen, können sie sich als legitime Nutzer ausgeben, um sich unberechtigten Zugriff auf Konten oder Systeme zu verschaffen.

Laut einer Studie von Gartner sind Präsentationsangriffe derzeit noch der häufigste Angriffs­vektor, aber Injektionsangriffe werden bis 2023 um 200 Prozent zunehmen. Um solche Angriffe zu verhindern, sei dann eine Kombination aus PAD, Erkennung von Injektionsangriffen (IAD) und Bildinspektion erforderlich, meinen die Gartner-Analysten.

Um Unternehmen dabei zu unterstützen, sich gegen KI-generierte Deepfakes zu schützen, die über die Gesichtsbiometrie hinausgehen, müssen CISOs und Risikomanagement-Verantwortliche solche Anbieter auswählen, die nachweisen können, dass sie über die Fähigkeiten und einen Plan verfügen, der über die aktuellen Standards hinausgeht und diese neuen Arten von Angriffen überwacht, klassifiziert und quantifiziert.

„Unternehmen sollten damit beginnen, ein Mindestmaß an Kontrollen zu definieren, indem sie mit Anbietern zusammenarbeiten, die speziell in die Eindämmung der neuesten Deepfake-basierten Bedrohungen durch IAD in Verbindung mit Image Inspection investiert haben“, so Khan.

Sobald die Strategie definiert und die Basislinie festgelegt ist, müssen CISOs und Risiko­management-Verantwortliche zusätzliche Risiko- und Erkennungssignale einbeziehen, wie z. B. Geräteidentifikation und Verhaltensanalyse, um die Chancen zu erhöhen, Angriffe auf ihre Identitätsüberprüfungsprozesse zu erkennen.

Vor allem Sicherheits- und Risikomanagementverantwortliche, die für das Identitäts- und Zugriffsmanagement zuständig sind, sollten Maßnahmen ergreifen, um die Risiken von KI-gesteuerten Deepfake-Angriffen zu mindern, indem sie Technologien auswählen, die die echte Anwesenheit von Menschen nachweisen können, und indem sie zusätzliche Maßnahmen zur Verhinderung von Kontoübernahmen implementieren.

Security-Insider Podcast – Folge 69

Der Papst trägt Daunenjacke

Dieser Artikel erschien ursprünglich bei unserem Schwesterportal Security-Insider.

(ID:49903219)