Mobile-Menu

Potenziale und Risiken künstlicher Intelligenz

Wie sich ChatGPT, Bard und Co. auf die Cybersicherheit auswirken

< zurück

Seite: 2/2

Anbieter zum Thema

Entrust Datacard Deutschland GmbH
IBYKUS AG für Informationstechnologie
SysEleven GmbH
mgm technology partners GmbH

Weswegen menschliche Entwickler derzeit noch der KI überlegen sind

Selbstverständlich werden die Fähigkeiten künstlicher Intelligenz auch von Cyberkriminellen erkannt und genutzt. Wir müssen daher mit einer gestiegenen Professionalität und Häufigkeit von Cyberangriffen rechnen.

So können Hacker zum Beispiel mithilfe von ChatGPT oder anderen KI-Systemen automatisierte Phishing-Angriffe starten. Fehler in Orthografie und Grammatik, die bisher ein augenscheinliches Indiz für solche Angriffe waren, lassen sich mit der fortschrittlichen Intelligenz ausschließen. Damit wird sich die Anzahl überlisteter Opfer vermutlich vervielfachen. Ähnlich verhält es sich mit Social-Engineering-Attacken, bei denen Betrüger Identitäten fälschen und durch scheinbar persönliche Unterhaltungen an kritische Informationen gelangen. Während der hierfür notwendige Grad an Vertrautheit bisher automatisiert schwer herzustellen war, sind KI-gestützte Chatbots mittlerweile in der Lage, menschenähnliche Konversationen zu führen – und diese Fähigkeit wird weiter optimiert. Indem Kriminelle an mehr Informationen über ihre Opfer gelangen, wird auch der auf dem Kapern einer Identität basierende Cyberbetrug immer ausgefeilter und damit täuschender.

Ein weiteres Problem liegt darüber hinaus in der möglichen Entwicklung ausgeklügelter Malware-Programme selbst durch weniger versierte Hacker in deutlich kürzerer Zeit. Sie könnten ChatGPT oder andere KI-Systeme nutzen, um bösartigen Code für das Verschlüsseln und Exfiltrieren von Daten zu generieren. Hacker, die über Spezialwissen zu Schwachstellen in einem Netzwerk verfügen, könnten mithilfe künstlicher Intelligenz schneller ihre Lücken beim Verfassen von Code schließen. Ebenso wird das Reverse Engineering von bereits stattgefundenen Cyberattacken leichter fallen.

Auch wenn derzeit noch die Expertise eines (menschlichen) Entwicklers gefragt ist, um die von KI-Systemen generierten Codes glattzubügeln, ist deren Perfektionierung jedoch absehbar. Wir sollten uns darauf einstellen, dass sich die Anzahl kursierender Schadprogramme und Cyberattacken bereits in absehbarer Zeit deutlich erhöhen wird.

Umgekehrt arbeitet aber auch die Security-Industrie mit Hochdruck an immer fortschrittlicheren Lösungen, um diese absehbaren Risiken in Schach zu halten und potenzielle Gefahren zu bekämpfen. Und auch auf der „guten“ Seite erweisen sich die Errungenschaften der künstlichen Intelligenz als Entwicklungsbeschleuniger.

Um es auf den Punkt zu bringen: Wir sollten die Möglichkeiten künstlicher Intelligenz begrüßen und wertschätzen – aber auch Sorgfalt und Vorsicht walten lassen, damit ihre Fähigkeiten zum Besten für die Gesellschaft, für die Wirtschaft und jeden Einzelnen eingesetzt werden können. Für eine verantwortungsvolle Nutzung der neuen KI-Modelle gibt es keine einheitliche Lösung. Umso wichtiger ist es, dass sich Führungskräfte und IT-Verantwortliche umgehend auf eine neue Situation einstellen. Sie sollten verstehen, was künstliche Intelligenz jetzt und in naher Zukunft zu leisten vermag und wie Kriminelle sie missbrauchen können. Aus diesem Verständnis heraus lassen sich in Zusammenarbeit mit Experten die für die jeweilige Institution am besten geeigneten Strategien und Maßnahmen ableiten.

Xavier Coemelck
Worldwide Vice President of Cybersecurity Sales & Services bei Entrust

Bildquelle: Entrust Deutschland GmbH

(ID:49426913)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung in der Verwaltung

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte