ChatGPT hilft Hackern – und Virenjägern

ChatGPT, das KI-gestützte (künstliche Intelligenz) Large Language Model (LLM) von OpenAI, hat bereits verschiedentlich für Furore gesorgt. So konnte das Frage-Antwort-Tool nicht nur Texte aller Art fabrizieren, sondern auch brauchbaren Programm-Code.

Es war daher eine Frage der Zeit, bis auch Hacker ChatGPT entdeckten und das Werkzeug für ihre sinistren Zwecke zu missbrauchen begannen. Dass sie dies bereits tun, hat Check Point Research (CPR), der Viren- und Bedrohungsforschungsarm von Check Point, in einschlägigen Foren feststellen können. Noch seien die mit Hilfe von OpenAI fabrizierten Angriffe recht rudimentär und die Anwender nicht besonders versiert, es sei aber wohl absehbar, dass auch gewieftere Hacker das KI-Werkzeug verwenden würden, um ihre Malware zu verbessern, warnen die Virenjäger von CPR in einem Blogbeitrag.

So entdeckte CPR Anleitungen zu einem einfachen Infostealer, einem Verschlüsselungstool und Methoden zur Erleichterung für Cyberbetrug. Konkret erschien gemäss CPR bereits am 29. Dezember 2022 in einem beliebten Untergrund-Hacking-Forum ein Thread mit dem Titel «ChatGPT - Benefits of Malware». Der Verfasser des Threads gab bekannt, dass er mit ChatGPT experimentiere, um Malware-Stämme und -Techniken nachzubilden, die in Forschungsveröffentlichungen und Berichten über gängige Malware beschrieben wurden. Als Beispiel gab er den Code eines auf Python basierenden Stealers weiter, der nach gängigen Dateitypen sucht, sie in einen zufälligen Ordner innerhalb des Temp-Ordners kopiert, in ein ZIP-Format packt und sie auf einen fest kodierten FTP-Server hochlädt.

Ausserdem postete am 21. Dezember 2022 ein als USDoD bezeichneter Bedrohungsakteur ein Python-Skript, von dem er betonte, dass es das erste Skript sei, das er je erstellt habe. Ein weiteres Beispiel für die Nutzung von ChatGPT für betrügerische Aktivitäten wurde in der Silvesternacht 2022 gepostet und zeigt eine andere Art von cyberkriminellen Aktivitäten. Während sich die ersten beiden Beispiele eher auf die Malware-orientierte Nutzung von ChatGPT konzentrierten, zeigt dieses Beispiel eine Diskussion mit dem Titel «Abusing ChatGPT to create Dark Web Marketplaces scripts».

Auch schon vor der Entdeckung der Beispiele konnte CPR darlegen und hat Ende 2022 in einem Blogbeitrag dokumentiert, dass mit Hilfe von ChatGPT zumindest auf Englisch brauchbare Phishing-Mails geschrieben werden können. Somit kann im Grunde genommen die ganze Angriffs-Kette von ChatGPT unterstützt werden.

Aber nicht nur Hacker könnten vom KI-Boom profitieren. Auch zur Bekämpfung von Malware und Attacken ist ChatGPT hilfreich, wie Gil Gekker von CPR in einem Podcast berichtet. So erhalte er von dem OpenAI-Werkzeug Antworten zu Fragen zur Malware-Abwehr und Hacker-Bekämpfung, sagt er. Auch beim Code-Schreiben für Scripts oder zur Unterstützung in Programmiersprachen, die ihm nicht so geläufig seien, nutze er nun ChatGPT.

«Selbst Schwachstellen lassen sich mit ChatGPT finden», berichtet Gekker. Dabei könne er dem Modell ein Code-Schnipsel unterbreiten und nach Bugs befragen. «Manchmal hat es wirklich gute Hinweise und Vermutungen, wo sich Bugs im Code befinden», führt er weiter aus.

Sogar für die Entschleierung von Malware, könne ChatGPT verwendet werden, weiss Gekker zu berichten. Hacker verwenden ihm zufolge viel Zeit damit, ihre Schadprogramme zu verschleiern, sodass sie von der Gegenseite nicht so schnell erkannt und der Programmiercode der Malware nicht so einfach gelesen werden kann. Schliesslich werden repetitive Aufgaben von Viren- und Bedrohungsanalysten mit ChatGPT vereinfacht und beschleunigt, meint Gekker.