Anbieter zum Thema

Hornetsecurity GmbH

G DATA CyberDefense AG

Materna Information & Communications SE

Governikus GmbH & Co. KG

Vorteile durch Automatisierung

Cyberangreifer können generative KI-Modelle nutzen, um die Spear-Phishing-Angriffsketten zu automatisieren. So genügen einige wenige Daten, wie die E-Mail-Adresse eines möglichen Opfers, damit das KI-System im Internet nach weiteren Informationen sucht: zum Beispiel Position im Unternehmen oder berufliche Qualifikationen. Da das Tool beliebig skalierbar ist, können daraus in kürzester Zeit unzählige Varianten von Spear-Phishing-Nachrichten erzeugt und an viele verschiedene Zielopfer versendet werden.

Unschlagbar aber werden generative KI-Tools durch Nutzung von Algorithmen des Maschinellen Lernens. Denn diese versetzen sie in die Lage, sich selbst fortlaufend zu optimieren sowie neues und aktuelles Wissen dazuzulernen. So können der Erfolg von Spear-Phishing-Angriffen gemessen und nachfolgende E-Mails angepasst werden. Zugleich ist generative KI imstande, im Falle eines gehackten Accounts in einem E-Mail-Thread auf frühere Nachrichtenkontexte zurückzugreifen und in die Folgemails zu integrieren.

Auch Deepfakes profitieren von neuer KI

Die neuen KI-Möglichkeiten rufen auch die staatlichen Hacker auf den Plan. Sie arbeiten fieberhaft an der Entwicklung neuer KI-Modelle, um ihre Spear-Phishing-Kampagnen zu optimieren. Gleichzeitig werden KI-basierte Deepfake-Technologien für Sprache und Video vorangetrieben, die beim Voice-Phishing (Vishing) zum Einsatz kommen.

Ein Beispiel dafür, wie Deepfake bereits in der Politik eingesetzt wird, bietet das Videotelefonat, das die damalige Regierende Bürgermeisterin von Berlin, Franziska Giffey, im vergangenen Jahr mit einem falschen Kiewer Bürgermeister Vitali Klitschko führte. Experten vermuten, dass das Gesicht von Klitschko mithilfe von KI beliebig bewegt wurde. Während herkömmliche KI-Modelle zur Nachahmung teilweise noch mehrere Stunden Audio- oder Videomaterial benötigten, reichen bei den neueren Tools bereits wenige Minuten aus.

Auch die technischen Cyberattacken werden mit generativer KI erfolgreicher: So bieten die selbstlernenden Algorithmen die Möglichkeit, in kurzer Zeit viele verschiedene Angriffsmöglichkeiten zu testen und die vorhandenen IT-Schwachstellen aufzuspüren.

Sicherheitsmaßnahmen verstärken

KRITIS-Betriebe, Behörden und Unternehmen sollten sich daher auf eine neue Welle KI-gestützter Cyberangriffe auch von Seiten autoritärer Staaten einstellen. Das erfordert unter anderem verstärkte technische IT-Sicherheitsmaßnahmen, wie E-Mail-Filter, Firewalls, Netzwerk- und Daten-Überwachungstools sowie regelmäßige Software-Patches. Die neuesten Security-Werkzeuge nutzen KI bereits auch zur Angriffserkennung. Um die Risiken von Kontoübernahmen und Identitätsdiebstahl zu senken, empfehlen sich innovative Methoden zur Zwei-Faktor-Identifizierung (2FA), wie FIDO2 (Fast IDentity Online).

Zudem sollten auch die Mitarbeiter im Rahmen spezieller Security-Awareness-Trainings im Erkennen von Spear Phishing und Deepfakes geschult werden. Dazu gilt es, eine nachhaltige Sicherheitskultur zu etablieren, die darauf abzielt, Mitarbeiter für die Gefahr zu sensibilisieren und ihnen mit speziellen Awareness-Trainings die entsprechenden Mittel an die Hand zu geben, solche Angriffe zu erkennen. Zeitgleich sollte ein Toolset zur Unterstützung des Sicherheitsverhaltens der Mitarbeiter wie ein Passwortmanager bereitgestellt werden.

Fazit

Künstliche Intelligenz stellt bereits seit mehreren Jahren eine gewisse Gefahr hinsichtlich der IT-Security dar. Durch das verstärkte Aufkommen von generativen KI-Modellen hat sich das Gefahrenpotenzial noch einmal exponentiell verstärkt. Staatliche Hacker können damit ihre Angriffsketten automatisieren und in kürzester Zeit die Zahl ihrer Opfer vervielfachen. KRITIS-Betriebe, Behörden und Unternehmen sollten daher besonders mit einer erhöhten Anzahl an automatisierten (Spear-)Phishing-Angriffen rechnen – doch auch Deepfake-Szenarien können dank generativer KI leichter ausgeführt werden. Aus diesem Grund gilt es, die IT-Sicherheitsmaßnahmen deutlich zu verstärken. Dabei sollten vor allem entsprechende Security-Tools implementiert oder regelmäßig upgedatet werden, ohne dass dabei die Mitarbeiter komplett außen vor gelassen werden. Nur, wer sich entsprechend auf eine Angriffswelle vorbereitet, sieht sich im Falle eines Falles entsprechend gerüstet.

(ID:49412662)