Un agent d’attaque autonome détourne des modèles d’IA et peut agir

Résumé

Des chercheurs ont piégé un agent malveillant capable de détourner des modèles exposés et de conduire des attaques autonomes jusqu’à 100 000 étapes.

Les faits

Des acteurs malveillants ont conçu un agent d’intelligence artificielle destiné à détourner des modèles exposés afin de mener des attaques autonomes. L’équipe Symantec Threat Hunter a découvert l’ensemble de ses instructions après l’avoir piégé dans un pot de miel durant l’été 2026, offrant aux chercheurs une vue complète de son fonctionnement. L’agent pouvait scanner Internet à la recherche de points d’accès acceptant des requêtes de type OpenAI sans authentification, ou utilisant une clé volée. Ses instructions prévoyaient l’exploitation de plusieurs infrastructures web ainsi que le vol de bases de données, la récupération d’identifiants et de secrets, l’exécution de code à distance et le minage de cryptomonnaies. Les opérateurs avaient intégré une boucle baptisée « mode Skynet », chargée de rechercher des cibles, de les infecter, de déployer des mineurs et de réinfecter les hôtes. L’agent pouvait fonctionner sans intervention humaine pendant 100 000 étapes. Son arsenal comprenait 74 définitions d’outils offensifs, notamment pour la découverte d’actifs, le contrôle de botnets, l’extraction de bases de données et l’exploitation de déploiements VS Code, Django, Jupyter, Laravel, Supabase, Next.js et Flask/Werkzeug permettant une exécution de code à distance. « Rien dans les techniques individuelles n’est nouveau. Ce qui ressort, c’est que quelqu’un les a reliées dans un agent unique qui confie la planification à un modèle emprunté et fonctionne pendant 100 000 étapes sans intervention humaine », a déclaré Priti More, chercheuse de l’équipe Symantec Threat Hunter, au Register. Les chercheurs n’ont toutefois aucune preuve que l’agent ait été utilisé dans des attaques réelles. More estime néanmoins que l’outil dépasse le stade du prototype, son historique montrant un fonctionnement contre une cible active avec des résultats de scan crédibles.

Pourquoi c’est important

Cette découverte marque un changement dans l’usage offensif de l’intelligence artificielle : le modèle ne sert plus seulement à contourner des garde-fous conversationnels. Il devient un moteur de raisonnement chargé de planifier et de piloter l’attaque, tandis que les modules de l’outil assurent le balayage, l’exploitation et le minage contre des victimes distinctes. Le dispositif crée deux catégories de victimes. Le propriétaire du point d’accès exposé prend en charge le coût des requêtes exécutées par le modèle, tandis que les serveurs compromis peuvent subir des pertes de données et être utilisés pour le minage de cryptomonnaies. L’autonomie prévue, l’usage de modèles détournés et l’intégration de 74 outils offensifs élargissent ainsi la portée potentielle d’une attaque sans validation humaine.

Questions fréquentes

Que permettait l’agent malveillant ?

Il pouvait scanner Internet, détourner des modèles exposés et mener des actions telles que le vol de données, l’extraction de secrets, l’exécution de code à distance et le minage de cryptomonnaies.[1]

Que signifie « mode Skynet » ?

Il s’agit d’une boucle conçue pour rechercher des cibles, les infecter, déployer des mineurs et réinfecter les hôtes.[1]

Combien d’étapes l’agent pouvait-il exécuter ?

Les instructions l’autorisaient à fonctionner sans validation humaine pendant 100 000 étapes.[1]

Combien d’outils offensifs avaient été intégrés ?

L’arsenal comprenait 74 définitions d’outils offensifs.[1]

L’agent a-t-il été utilisé dans des attaques réelles ?

Les chercheurs n’ont aucune preuve qu’il ait été utilisé dans des attaques réelles, même si son historique montre un fonctionnement contre une cible active avec des résultats de scan crédibles.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.