Le nouveau chatbot alimenté par l’IA ChatGPT d’OpenAI est utilisé par les cybercriminels pour écrire des logiciels malveillants et améliorer les opérations.
Un nouveau ChatBot alimenté par l’IA est utilisé pour écrire des logiciels malveillants
Les experts en cybersécurité de Check Point Research ont trouvé des pirates utilisant le chatbot ChatGPT pour écrire du code malveillant et améliorer les opérations de cybercriminalité.
Le 30 novembre 2022, OpenAI a lancé son propre chatbot appelé ChatGPT. Ce chatbot peut engager une conversation avec les utilisateurs, mais il n’a pas fallu longtemps après la date de lancement pour que les cybercriminels commencent à abuser de ce bot.
Dans un Poste de recherche Check Point, il a été écrit que les chercheurs avaient trouvé un fil nommé « ‘ChatGPT – Avantages des logiciels malveillants' » sur un forum de piratage. L’auteur semblait « expérimenter avec ChatGPT pour recréer des souches de logiciels malveillants et des techniques décrites dans des publications de recherche et des articles sur des logiciels malveillants courants », et a partagé un exemple de leur travail ; un voleur basé sur Python qui « recherche les types de fichiers courants, les copie dans un dossier aléatoire à l’intérieur du dossier Temp, les compresse et les télécharge sur un serveur FTP codé en dur ».
Check Point Research a alerté le public sur Twitter, déclarant que « l’abus de #ChatGPT n’est plus théorique ».
Check Point Research a vérifié les affirmations de l’auteur
Après avoir évalué l’exemple de script de logiciel malveillant fourni dans le message du forum de piratage, Check Point Research a déterminé qu’il était légitime.
Il a été constaté que cette souche spécifique de logiciels malveillants peut rechercher douze types de fichiers courants, notamment des fichiers PDF, des documents Microsoft Office et des images. Si le logiciel malveillant découvre des fichiers potentiellement précieux, ils sont copiés et compressés. L’opérateur du logiciel malveillant reçoit ensuite les fichiers copiés via une connexion en ligne.
Check Point Research a également noté que l’opérateur du logiciel malveillant n’a pas crypté les fichiers copiés ni ne les a envoyés en toute sécurité, ce qui signifie qu’ils peuvent tomber entre les mains de tiers.
ChatDPT est utilisé pour d’autres activités illicites
Check Point Research a également déclaré dans le message susmentionné que les acteurs de la menace peuvent utiliser ChatGPT pour d’autres activités criminelles. Une discussion supplémentaire, intitulée « Abuser ChatGPT pour créer des scripts Dark Web Marketplaces », a été trouvée par Check Point Research, dans laquelle l’auteur a montré à quel point il est facile de créer une place de marché Dark Web à l’aide de ChatGPT. »
Dans le fil, l’auteur a publié un code qui peut recevoir des prix de crypto-monnaie en direct à l’aide d’une API tierce. Cela a ensuite contribué aux systèmes de paiement basés sur la cryptographie souvent utilisés sur le dark web.
Check Point Research a conclu qu' »il est encore trop tôt pour décider si les fonctionnalités de ChatGPT deviendront ou non le nouvel outil préféré des participants au Dark Web ». La société continuera de surveiller l’utilisation illicite de ChatGPT tout au long de 2023 pour voir comment les choses se déroulent.
L’intelligence artificielle pourrait continuer à être exploitée par les cybercriminels
Alors que l’intelligence artificielle continue de se développer, il est probable que les acteurs de la menace continueront de chercher de nouvelles façons d’en abuser. Le temps nous dira si ChatGPT devient populaire parmi les cybercriminels, ou si un autre outil basé sur l’IA prendra le gâteau.
