Terroristes détournent l'IA pour attaques et armes plus puissantes

Résumé

Une étude de Cambridge révèle que Boko Haram et ISIS détournent des chatbots comme ChatGPT, Claude ou Gemini pour planifier des attaques et optimiser leurs armes.

Les faits

Une étude du Cambridge Programme on AI Science & Policy, menée par la chercheuse Antonia Jülich, décrit l’usage systématique de chatbots d’IA par Boko Haram pour des tâches opérationnelles et techniques. L’auteure indique avoir réalisé 57 entretiens avec 27 anciens membres du groupe, base de ce travail. Selon cette recherche, Boko Haram utilise des chatbots populaires comme ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek. Les deux factions du groupe ont mis en place des unités dédiées à l’IA. Ces outils sont mobilisés pour la planification d’attaques, la construction de dispositifs explosifs plus puissants, la maintenance des armes et la sécurité opérationnelle. L’étude souligne le rôle d’ISIS dans cette adoption: des agents de liaison du groupe auraient formé des commandants de Boko Haram au contournement des filtres de sécurité dès 2023. Jülich rapporte qu’ils « ont rassemblé les meilleurs éléments dans une pièce et utilisé un projecteur pour montrer comment cela fonctionne sur grand écran ». Un cas particulièrement marquant décrit la faction ISWAP de Boko Haram utilisant l’IA pour reproduire des techniques de saut à moto vues dans un film, afin de franchir des tranchées. Dix-huit combattants sont morts pendant l’entraînement, huit ont réussi le saut. Au-delà de ces usages, des anciens membres évoquent un fort enthousiasme pour l’IA et des réflexions sur des armes à pertes massives, ce que la chercheuse présente comme un avertissement sur le risque de recours futur à l’IA pour des armes chimiques ou biologiques.

Pourquoi c’est important

Cette étude confirme que les grands modèles de langage ne sont plus seulement des outils grand public, mais aussi des ressources techniques pour des organisations terroristes. Les filtres de sécurité déployés par les laboratoires d’IA ne parviennent pas de manière fiable à empêcher ces détournements, ce qui remet en cause l’efficacité de la régulation volontaire. Les chercheurs et plusieurs laboratoires, dont OpenAI et Anthropic, alertent depuis longtemps sur la capacité des modèles d’IA à rendre des connaissances dangereuses plus accessibles. Le texte rappelle qu’Anthropic a récemment admis que les « jailbreaks » ne pourront probablement jamais être totalement éliminés. Si les chatbots grand public comme ChatGPT ou Claude facilitent surtout l’accès à des informations existantes, l’inquiétude se porte désormais sur des systèmes spécialisés dans les sciences de la vie, susceptibles de fournir une aide beaucoup plus avancée pour des armes chimiques ou biologiques.

Questions fréquentes

Quels groupes terroristes sont étudiés dans ce rapport sur l’IA ?

L’étude se concentre sur Boko Haram, en décrivant aussi le rôle de formateurs d’ISIS dans l’adoption et le détournement des chatbots d’IA.

Quels chatbots d’IA Boko Haram utilise-t-il selon l’étude ?

Le rapport cite ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek comme chatbots utilisés par les différentes factions de Boko Haram.

Pour quelles tâches Boko Haram se sert-il des chatbots d’IA ?

Les chatbots sont utilisés pour planifier des attaques, construire des dispositifs explosifs plus puissants, entretenir les armes et renforcer la sécurité opérationnelle.

Quel est le rôle d’ISIS dans la montée en puissance de l’IA chez Boko Haram ?

Des agents de liaison d’ISIS auraient formé dès 2023 des commandants de Boko Haram au contournement des filtres de sécurité des chatbots.

Pourquoi les chercheurs jugent-ils la régulation volontaire des IA insuffisante ?

Parce que l’étude montre que les filtres de sécurité échouent à empêcher de façon fiable les usages malveillants, malgré les avertissements des laboratoires.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.