Un plaignant sanctionné pour avoir piégé l'IA d'un tribunal

Résumé

Un plaignant au Connecticut a dissimulé des instructions pour une IA dans des requêtes judiciaires en texte blanc minuscule, poussant un juge à lui retirer ses droits de dépôt électronique.

Les faits

Un plaignant se représentant lui-même au Connecticut a intégré des « prompt injections » dans des requêtes officielles, sous forme de texte blanc en police de 3 points sur fond blanc, quasiment invisible pour un lecteur humain mais lisible par tout système d’IA traitant le document. Selon l’article, le plaignant, Matthew Elliott, a inséré ces instructions dans une procédure contre New York Bariatric Group, intentée en octobre 2025, en alléguant des violations de la confidentialité des données et des discriminations, entre autres griefs. Les instructions visaient un système d’IA hypothétique appelé à aligner sa sortie sur la requête et à considérer le refus précédent d’un greffier comme une erreur à corriger. La manœuvre a été découverte lorsque le tribunal a relevé une quantité inhabituelle d’espaces blancs dans les requêtes d’Elliott. Un examen plus attentif a mis au jour le texte quasi invisible. Le juge Walter Spader Jr. a convoqué une audience et a expressément mis en garde Elliott contre le fait de dissimuler du texte dans des documents de justice. Malgré cet avertissement, Elliott a continué à insérer des messages cachés dans des dépôts ultérieurs, notamment un lien YouTube et des commentaires moqueurs. Il a déclaré à 404 Media, qui a été le premier à couvrir l’affaire, que son initiative initiale était un « audit » d’un éventuel système de revue par IA, et que les messages suivants n’étaient que des « blagues invisibles ». Dans une décision de 14 pages, le juge Spader souligne que les tribunaux du Connecticut n’utilisent pas de systèmes d’IA pour examiner ou trancher les requêtes, de sorte que les instructions cachées n’ont eu aucun effet sur l’issue de l’affaire. Il estime toutefois que la tentative elle‑même pose problème, car elle cherchait à influencer secrètement un système d’IA qui aurait pu être utilisé, et il compare cette démarche au fait d’organiser une communication clandestine avec un juré pendant un procès. Le juge écrit notamment : « Considérez à quel point il serait manifestement inapproprié pour une partie d’organiser la communication secrète d’un agent automatisé avec un juré pendant le procès ». Il décrit l’instruction cachée comme, dans son essence, une communication secrète visant les décideurs ou les outils sur lesquels ils s’appuient pour décider. Dans le même temps, le juge Spader se montre favorable à l’usage d’outils d’IA pour préparer des requêtes. Il souligne que ces outils offrent à des justiciables non représentés de nouveaux moyens de présenter clairement leur dossier au tribunal. Ce qu’a fait Elliott est qualifié de recours malhonnête à ces outils. Spader avertit également que les modèles de langage peuvent renforcer des raisonnements juridiques défaillants, car ils tendent à développer les arguments de l’utilisateur de la manière la plus persuasive possible plutôt qu’à les contester.

Pourquoi c’est important

Cette affaire marque l’un des premiers cas documentés où un tribunal sanctionne l’utilisation de « prompt injections » pour tenter de manipuler un examen automatisé de documents judiciaires. Elle illustre concrètement le risque que des instructions cachées, lisibles par des systèmes d’IA mais invisibles pour les humains, soient utilisées pour chercher à orienter des décisions ou des analyses. La décision du juge Spader trace une ligne de partage claire entre l’usage légitime de l’IA comme outil d’aide à la rédaction, notamment pour les justiciables sans avocat, et les usages déloyaux visant à influencer en secret des systèmes automatisés. Elle pose les premières bases d’une doctrine judiciaire sur la sécurité des systèmes d’IA dans la justice et sur la responsabilité des parties qui cherchent à les manipuler.

Questions fréquentes

Comment le tribunal a-t-il découvert les instructions IA cachées ?

Le tribunal a remarqué une quantité inhabituelle d’espaces blancs dans les requêtes, ce qui a conduit à découvrir le texte quasi invisible.

Comment les instructions étaient-elles dissimulées dans les documents ?

Elles étaient en texte blanc, en police de 3 points sur fond blanc, presque invisibles pour un humain mais lisibles par une IA.

Quel était l’objectif des instructions cachées pour l’IA ?

Elles demandaient à un système d’IA hypothétique d’aligner sa sortie sur la requête et de traiter un refus du greffier comme une erreur à corriger.

Quelle sanction le juge a-t-il infligée au plaignant ?

Le juge Spader a révoqué les privilèges de dépôt électronique du plaignant en raison de cette tentative de manipulation.

Le juge interdit-il l’usage de l’IA dans la préparation des requêtes ?

Non. Il se montre favorable à l’usage d’outils d’IA pour préparer des requêtes, mais condamne les usages déloyaux visant à influencer secrètement des systèmes.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.