COVID-19 Deepfakes: Gefahr für die Gesundheitsbranche

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Nortal AG

xSuite Group GmbH

Eskenzi PR Limited

Künstliche Intelligenz (KI) hat sich im Kampf gegen COVID-19 schon mehrfach als nützlich erwiesen. Behörden verwenden diese Technik für das Contact-Tracing (die Rückverfolgung von Infektionsketten), und sie wird auch für diagnostische Tools getestet. Es gibt aber auch negative KI-Anwendungsbereiche. Dieser Beitrag zeigt, wie Deepfakes das ohnehin überlastete Gesundheitssystem zusätzlich unter Druck setzen.

Was versteht man unter Deepfakes? Der Begriff Deepfakes beschreibt Inhalte (meist Bilder und Videos), die mittels KI verändert wurden. Die KI verwendet dazu einen vorhandenen Inhalt als Referenz und die Software bildet verschiedene Merkmale und Punkte innerhalb des Inhalts ab.

Die Person, die die Software verwendet, erstellt einen neuen Inhalt, und die KI verändert ihn so, dass er so weit wie möglich mit den Merkmalen des Originalinhalts übereinstimmt. Ziel ist es, den neuen Inhalt so über den ursprünglichen Inhalt zu legen und die verschiedenen Punkte so aufeinander abzustimmen, dass der neue Inhalt nahezu nahtlos integriert erscheint.

Am häufigsten wird die Technologie eingesetzt, um ein neues Gesicht über altes Filmmaterial zu legen, oder um den Anschein zu erwecken, dass jemand etwas sagt, was er nie gesagt hat.

Und der Sinn des Ganzen?

Man kann diese Technik verwenden, um überzeugendes Filmmaterial zu erstellen. Die Filmindustrie beispielsweise verwendet sie, um den Hintergrund bestimmter Aufnahmen auszufüllen, oder um das Gesicht eines verstorbenen Schauspielers über bereits gefilmte Inhalte zu legen.

Diese Technologie wurde, wenn auch relativ ineffektiv, eingesetzt, um einer jungen Prinzessin Leia den Auftritt in „Star Wars: Rouge One“ zu ermöglichen. Die typischen Fans haben das natürlich sofort durchschaut. Trotzdem zeigt das Beispiel, welches Potenzial Deepfakes am Filmset haben.

Warum erweist sich gerade diese Eigenschaft als riskant?

Besorgniserregend ist allerdings, wenn Deepfakes verwendet werden, um Fake News zu verbreiten. Dieser von Buzzfeed produzierte Clip von Barack Obama mit dem Darsteller Jordan Peele zeigt die möglichen Gefahren. Das Video wurde ausschließlich erstellt, um zu verdeutlichen, wie man die Deepfake-Technologie einsetzen kann, um gezielt Fake News zu verbreiten.

Wenn Sie sich das komplette Video aufmerksam anschauen, werden Sie vermutlich merken, dass etwas nicht ganz stimmt. Wenn Sie sich aber nur den veränderten Ausschnitt ansehen, würden Sie vermutlich nicht feststellen, dass es sich um einen Fake handelt. Ein paar Sekunden des Filmmaterials erscheinen also auf den ersten Blick ziemlich überzeugend. Und genau darin liegt die Gefahr. Fake Videos wie diese wurden bereits verwendet, um Persönlichkeiten des öffentlichen Lebens zu diskreditieren und Falschinformationen zu verbreiten.

Warum Deepfakes gerade für die Gesundheitsbranche gefährlich sind

Fake News sind schon deshalb gefährlich, weil sie unrichtige Informationen verbreiten. Fake-Videos, in denen behauptet wird, dass beispielsweise Alkohol, übermäßige Hitze oder Kälte das Coronavirus abtöten, hatten und haben genau diesen Effekt. Auch, wenn es keinerlei wissenschaftliche Beweise für die in diesen Videos verbreiteten Behauptungen gibt, haben sie sich dennoch rasend schnell verbreitet.

Falschinformationen werden aber auch dann gefährlich, wenn sie die Reaktionen von Menschen auf die von den Behörden verhängten Kontrollmaßnahmen beeinflussen. Als Anti-Quarantäne-Demonstranten den Zugang zu Krankenhäusern blockierten und das Gesundheitspersonal daran hinderten, zur Arbeit zu gehen, ging die Aktion auf eine legitime Bewegung und nicht auf Deepfakes zurück. Trotzdem wäre es ein Leichtes, die Leistungsfähigkeit der Technologie anlässlich solcher Demonstrationen zu missbrauchen und mutwillig Chaos zu verursachen.

Was ist für die Gesundheitsbranche schlimmer als Fake News?

Kriminelle könnten aber auch einen Weg wählen, der für die Gesundheitsbranche besonders schädlich wäre. Zum Beispiel, wenn Cyberkriminelle Deepfakes als Clickbait für Malware-verseuchte Websites verwenden. Dadurch würden sich Fake-Videos problemlos verteilen, insbesondere in einer Situation der allgemeinen Verunsicherung wie gerade jetzt.

Cyberkriminelle nutzen das Potenzial der Technologie, um mehr Opfer an Land zu ziehen. Die typische Vorgehensweise ist, ein Thumbnail (Vorschaubild) des Videos mit einem Link zu posten. Thumbnail und Überschrift sollen die Opfer auf den Inhalt des Videos neugierig machen, so dass sie auf den Link klicken. Sobald der Benutzer zur Seite navigiert, ist der betreffende Computer Malware-verseucht, wie durch Ransomware, einen Keylogger oder eine Spyware. Gelingt es so einen Rechner aufgrund nicht ausreichender Cybersicherheitsmaßnahmen zu infizieren, muss der Nutzer sich unter Umständen mit schwerwiegenden Folgen auseinandersetzen. Die meisten Benutzer wissen inzwischen besser Bescheid was Webseiten angeht, auf den möglicherweise Malware gehostet wird. Das hindert kriminelle Akteure aber nicht daran gezieltere Angriffe zu entwickeln.

Stellen Sie sich für einen Moment folgendes Szenario vor. Sie erhalten eine Nachricht, die scheinbar von einer seriösen Organisation wie der Weltgesundheitsorganisation oder einer Aufsichtsbehörde Ihres Landes kommt, und in der um COVID-19 Contact Tracing geht. Die Nachricht zeigt ein miniaturisiertes Bild Ihrer Anmeldung mit einem verschwommenen Bild von jemandem, der wie einer Ihrer Kollegen aussieht. Das würde Sie möglicherweise darin bestärken, doch auf den Link zu klicken.

Fazit

Bösartige Akteure wenden eine Reihe verschiedener Taktiken an, um ihre Opfer dazu zu bringen, sich zu Schad-Links durchzuklicken oder Zugangsinformationen preiszugeben. Zwar haben einige Hacker- und Ransomware-Gruppen zu Beginn der Krise die Gesundheitsbranche für tabu erklärt. Die Realität hat aber schon gezeigt, dass es ausreichend böswillige Akteure gibt, die die Situation rücksichtslos ausnutzen. Welches Krankenhaus kann es sich leisten, dass Ransomware gerade jetzt lebenswichtige Systeme blockiert? Wie viele können riskieren, dass die Namen von Patienten durchsickern, die positiv auf COVID-19 getestet wurden? Deepfakes belasten Gesundheitssysteme, die teilweise am Limit agieren, noch zusätzlich.

*Die Autorin: Kamilla Akhmedova ist Bloggerin und freie Autorin für GlobalSign.

(ID:46742678)