Reddit déploie l'IA pour bloquer le spam des bots

Résumé

Reddit utilise désormais des modèles de langage pour bloquer 23 millions de vues de spam par jour, détecter 25 000 nouveaux contenus indésirables et réduire de 20 % l’exposition des utilisateurs.

Les faits

Alors que la généralisation des modèles de langage rend la production de contenus automatisés plus simple que jamais, Reddit se dit confronté à une explosion de spam et de messages de bots sur sa plateforme. Le réseau social affirme avoir développé de nouveaux outils fondés sur des modèles de langage de grande taille afin de réduire ce volume de contenus indésirables, dont une grande partie est elle-même produite par ces mêmes modèles. Reddit indique que ses systèmes bloquent désormais 23 millions de vues de spam par jour avant qu’elles n’atteignent les utilisateurs. La plateforme ajoute qu’elle « attrape environ 25 000 nouvelles publications et commentaires de spam chaque jour », grâce à ces outils mis à jour. Ces mécanismes automatisés s’inscrivent dans la continuité des efforts engagés depuis des années par les réseaux sociaux pour réduire le spam, mais Reddit affirme que cette nouvelle génération d’outils améliore sensiblement le taux de détection. Dans un billet de blog cité par l’article, Reddit explique : « nous exploitons des modèles de langage pour repérer les schémas de comportements fictifs et de battage artificiel, hautement subtils, que les anciens systèmes laissaient passer ». Selon l’entreprise, ces améliorations ont permis de réduire de 20 % l’exposition des utilisateurs au spam entre janvier et mars, par rapport aux trois mois précédents. L’article replace également Reddit dans un mouvement plus large : d’autres plateformes comme YouTube, Meta et Instagram autorisent les contenus générés par l’IA à condition qu’ils soient signalés, tandis que TikTok propose aux utilisateurs de régler la quantité de contenus générés par l’IA qu’ils souhaitent voir. Dans ce contexte, la capacité à détecter plus rapidement les contenus produits par l’IA pourrait aussi permettre de signaler plus vite des contenus violant les règles, notamment les discours de haine, même si des experts rappellent que la modération automatisée doit rester complétée par une modération humaine.

Pourquoi c’est important

Le choix de Reddit illustre un basculement structural des grandes plateformes : la lutte contre le spam et les manipulations s’appuie désormais sur les mêmes modèles de langage qui ont rendu ces abus plus faciles à industrialiser. En bloquant des dizaines de millions de vues de spam par jour et en réduisant de 20 % l’exposition des utilisateurs, le réseau social montre que l’usage ciblé de l’IA peut produire des gains mesurables en matière de sécurité et de qualité de l’expérience. Cette stratégie s’inscrit aussi dans un débat plus large sur la place des contenus générés par l’IA dans les espaces publics en ligne. Les exemples cités de YouTube, Meta, Instagram et TikTok montrent que l’enjeu n’est plus seulement de tolérer ou non ces contenus, mais de les encadrer, de les signaler et de renforcer la modération pour limiter les dérives, du spam aux discours de haine. En combinant détection automatisée et intervention humaine, les plateformes cherchent à préserver la confiance des utilisateurs tout en continuant à intégrer l’IA au cœur de leurs outils.

Questions fréquentes

Que fait Reddit pour lutter contre le spam généré par l’IA ?

Reddit affirme avoir développé des outils basés sur des modèles de langage pour réduire le spam et les contenus de bots, dont beaucoup sont générés par ces mêmes modèles.[4]

Combien de vues de spam Reddit bloque-t-il chaque jour ?

Selon la plateforme, ses systèmes bloquent 23 millions de vues de spam par jour avant qu’elles n’atteignent les utilisateurs.[4]

Combien de nouveaux contenus de spam sont détectés quotidiennement ?

Reddit indique qu’il détecte environ 25 000 nouvelles publications et commentaires de spam chaque jour grâce à ses outils mis à jour.[4]

Quel impact Reddit revendique-t-il sur l’exposition au spam ?

L’entreprise affirme avoir réduit l’exposition des utilisateurs au spam de 20 % entre janvier et mars par rapport aux trois mois précédents.[4]

Pourquoi Reddit combine-t-il IA et modération humaine ?

Des experts cités rappellent que la modération par l’IA doit rester associée à la modération humaine pour obtenir les meilleurs résultats.[4]

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.