L'IA piège les cybercriminels avec des robots réalistes

Résumé

Des initiatives anti-cybercriminalité utilisent l’IA pour retenir les escrocs au téléphone, recueillir leurs renseignements et perturber leurs opérations.

Les faits

L’intelligence artificielle est désormais mobilisée dans la lutte contre les escroqueries et la cybercriminalité. Des initiatives anti-cybercriminalité l’emploient pour tromper les escrocs en les faisant dialoguer avec des robots réalistes qu’ils prennent pour de véritables victimes. Depuis deux ans, l’entreprise australienne Apate développe un système qui détourne les appels de fraudeurs vers des robots conversationnels. Ces derniers sont entraînés à prolonger les échanges aussi longtemps que possible sans se laisser piéger, tout en donnant aux escrocs suffisamment d’espoir pour les maintenir en ligne. La plateforme vise également à recueillir des renseignements sur les escroqueries menées. Utilisée par des banques et soutenue par des opérateurs télécoms, elle compte environ 350 000 robots. Ceux-ci répondent aux appels, infiltrent des groupes de discussion consacrés aux escroqueries et réagissent à des messages texte pour faire perdre du temps aux fraudeurs et collecter des informations. D’autres initiatives cherchent à perturber les cybercriminels en exploitant leurs vulnérabilités psychologiques. Des travaux récents indiquent notamment qu’un pot de miel piloté par un grand modèle de langage peut retenir des agents d’IA attaquants nettement plus longtemps qu’un système au comportement prévisible.

Pourquoi c’est important

L’usage de robots capables de tenir une conversation crédible transforme le temps habituellement consacré par les escrocs à leurs victimes en une ressource gaspillée. Cette stratégie permet simultanément de les distraire et de recueillir des renseignements sur leurs méthodes. L’approche élargit le rôle de l’IA dans la cybersécurité : elle ne sert plus seulement à détecter ou à bloquer les attaques, mais aussi à désorganiser activement leurs auteurs. Les résultats obtenus avec des pots de miel pilotés par de grands modèles de langage suggèrent que des comportements plus réalistes peuvent prolonger l’interaction avec les attaquants.

Questions fréquentes

Comment l’IA piège-t-elle les cybercriminels ?

Elle les fait dialoguer avec des robots réalistes qu’ils prennent pour de véritables victimes.

Quel est l’objectif des robots d’Apate ?

Prolonger les conversations avec les escrocs, leur faire perdre du temps et recueillir des renseignements sur leurs activités.

Combien de robots la plateforme d’Apate compte-t-elle ?

La plateforme compte environ 350 000 robots.

Qui utilise ou soutient la plateforme d’Apate ?

Elle est utilisée par des banques et soutenue par des opérateurs télécoms.

Que montrent les travaux sur les pots de miel pilotés par un grand modèle de langage ?

Ils peuvent retenir des agents d’IA attaquants nettement plus longtemps que des pots de miel au comportement prévisible.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.