Anthropic marque Claude pour l'Europe avec un watermark invisible

Résumé

Anthropic explique comment Claude intégrera un watermark textuel invisible, conforme au Code de transparence de l’IA de l’UE, et précise ses limites sur l’édition et le code.

Les faits

Anthropic a publié un billet de blog pour répondre aux questions de base sur la façon dont son chatbot Claude va désormais marquer par watermark le texte qu’il génère, afin de se conformer au Code de transparence du l’AI Act européen qui impose des systèmes permettant d’identifier les contenus produits par l’IA. La société décrit un mécanisme où, lors de « choix à faible enjeu » – par exemple entre « overcast » et « grey » pour décrire la météo – Claude introduit un motif statistique dans ses réponses, « indétectable pour le lecteur, mais détectable pour quiconque dispose d’une clé qui l’encode ». Anthropic assure que « le watermarking n’impacte pas la qualité des sorties de Claude » et qu’« pour un lecteur, une réponse watermarkée est indistinguable d’une réponse non watermarkée ». Anthropic indique utiliser l’approche SynthID-Text décrite par l’équipe Google DeepMind en 2024 et prévoit de lancer une API de détection de watermark. L’entreprise insiste sur le caractère distinct de cette technique par rapport aux outils de détection d’IA comme ceux de Pangram, qui recherchent des « indices » dans le style d’écriture : « Repérer ces motifs est fondamentalement différent du contrôle de la présence d’un watermark. » Sur la robustesse du système, Anthropic reconnaît qu’une réécriture complète peut effacer la marque, mais estime qu’« une édition légère ne supprimera probablement pas complètement le watermark », alors qu’« une réécriture complète où chaque mot est remplacé » y parvient. Dans ce dernier cas, la société juge qu’il est « discutable » de considérer que le texte est encore « généré par l’IA ». Pour les textes seulement relus ou corrigés par Claude, la détection dépend « de la longueur du texte et de l’ampleur des modifications » : si l’édition est légère, « presque tous les mots » resteront ceux de l’auteur humain et il y aura « très peu, voire rien » sur quoi le watermark puisse se fixer.

Pourquoi c’est important

L’explication détaillée fournie par Anthropic marque une étape importante dans l’opérationnalisation des obligations de transparence de l’IA en Europe. En intégrant un watermark statistique directement dans les choix de mots de Claude, l’entreprise cherche à rendre les contenus générés identifiables par des systèmes spécialisés, tout en maintenant une expérience de lecture inchangée pour le public. Cette démarche précise également les limites techniques de la détection, notamment face aux réécritures complètes ou à l’édition légère, et distingue clairement le watermarking des outils de détection stylométrique. Elle ouvre la voie à un écosystème d’API de détection et prépare les utilisateurs, développeurs et régulateurs à une nouvelle norme où les textes produits ou modifiés par les grands modèles devront être reconnaissables, sans altérer la qualité ni la lisibilité.

Questions fréquentes

Pourquoi Anthropic ajoute un watermark aux textes générés par Claude ?

Pour se conformer au Code de transparence de l’AI Act de l’UE, qui exige des systèmes permettant d’identifier les contenus générés par l’IA.

Le watermark de Claude est-il visible pour les lecteurs humains ?

Non. Anthropic affirme qu’il est « indétectable pour le lecteur » et qu’une réponse watermarkée paraît identique à une réponse classique.

Quel type de méthode Anthropic utilise-t-elle pour le watermarking de Claude ?

Anthropic indique qu’elle utilisera l’approche SynthID-Text décrite par l’équipe Google DeepMind en 2024.

Une simple édition du texte suffit-elle à enlever le watermark de Claude ?

Anthropic estime qu’une édition légère ne supprimera « probablement pas » complètement la marque, mais qu’une réécriture totale peut l’effacer.

Le watermark de Claude fonctionne-t-il comme les détecteurs d’IA classiques ?

Non. Anthropic souligne que repérer des « motifs » d’écriture est « fondamentalement différent » de la vérification de la présence d’un watermark.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.