Des conversations partagées sur ChatGPT et Claude détournées pour diffuser des malwares

Résumé

Des attaquants exploitent les liens de conversations partagées sur ChatGPT et Claude pour diffuser des malwares via des chats publics hébergés sur des domaines de confiance. Déguisés en messages d’erreur ou guides d’installation, ces contenus échappent aux outils de sécurité et incitent les victimes à télécharger des applications compromises.

Les faits

Des attaquants exploitent désormais les fonctionnalités de partage de conversations de ChatGPT et Claude pour diffuser des logiciels malveillants via des liens publics. Les deux plateformes permettent en effet aux utilisateurs de partager des discussions au moyen d’URL accessibles publiquement, ce que les cybercriminels détournent pour piéger de nouvelles victimes. Les victimes découvrent ces conversations piégées en cliquant sur des publicités payantes dans les moteurs de recherche. Parce que ces liens pointent vers des domaines considérés comme légitimes, comme ceux de ChatGPT et Claude, les outils de sécurité ne les signalent pas et les utilisateurs ont davantage tendance à leur faire confiance. Selon la société de sécurité Push Security, les attaquants conçoivent des conversations partagées qui imitent des messages officiels de panne ou des guides d’installation. Une variante récente utilise la fonction de rendu de code de ChatGPT pour afficher une fausse page d’erreur complète à l’intérieur même d’un chat partagé, avant d’inciter l’utilisateur à télécharger une application de bureau infectée. Sur Claude, des conversations partagées se présentent comme des guides d’assistance Apple intégrant des commandes Terminal malveillantes. Push Security a baptisé cette technique d’attaque « LLMShare ». D’autres acteurs, comme BleepingComputer et Kaspersky, ont déjà documenté des campagnes similaires exploitant ces mécanismes de partage pour propager des malwares.

Pourquoi c’est important

Ce mode opératoire illustre un changement de paradigme dans la diffusion de malwares : plutôt que d’héberger leurs propres sites frauduleux, les attaquants s’appuient sur des pages générées et hébergées par de grands services d’IA, perçus comme fiables. En tirant parti de liens partagés sur des domaines de confiance, ils contournent plus facilement les filtres de sécurité et les réflexes de méfiance des utilisateurs. Pour les entreprises comme pour le grand public, cette évolution souligne l’importance de ne plus se fier uniquement au nom de domaine ou à la réputation d’une plateforme pour juger de la légitimité d’un contenu. Elle pose aussi un défi direct aux fournisseurs d’IA générative, désormais contraints de renforcer la sécurisation de leurs fonctionnalités de partage et de rendu de contenu afin d’empêcher leur détournement à des fins malveillantes.

Questions fréquentes

Comment les attaquants abusent-ils de ChatGPT et Claude ?

Ils exploitent les liens de conversations partagées pour diffuser des malwares via des chats publics qui imitent des messages de panne ou des guides d’installation, hébergés sur des domaines considérés comme fiables.

Quel rôle jouent les publicités payantes dans ces attaques ?

Les victimes arrivent sur ces conversations piégées en cliquant sur des publicités payantes dans les moteurs de recherche, qui les redirigent vers les chats malveillants hébergés sur ChatGPT ou Claude.

Comment ChatGPT est-il utilisé pour afficher de fausses pages d’erreur ?

Les attaquants exploitent la fonction de rendu de code de ChatGPT pour générer une fausse page d’erreur complète au sein d’un chat partagé, puis pousser l’utilisateur à télécharger une application de bureau infectée.

En quoi consiste l’attaque sur Claude ?

Sur Claude, des conversations partagées se font passer pour des guides d’assistance Apple, mais contiennent des commandes Terminal malveillantes destinées à compromettre l’ordinateur de la victime.

Que signifie le terme « LLMShare » ?

Push Security a donné le nom « LLMShare » à cette technique qui consiste à utiliser des pages de conversations partagées sur des chatbots pour distribuer des malwares depuis des domaines de confiance.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.