OpenAI filigrane ses textes IA pour l'Europe

Résumé

OpenAI déploiera dans l’Union européenne un filigrane invisible sur les textes de ChatGPT et Codex afin de respecter le règlement européen sur l’IA.

Les faits

OpenAI commencera à ajouter un filigrane invisible aux textes générés par ChatGPT et Codex dans l’Union européenne. Cette mesure vise à respecter les règles de transparence du règlement européen sur l’intelligence artificielle, selon l’entreprise. Le déploiement doit intervenir dans les prochaines semaines pour les utilisateurs éligibles de ChatGPT et Codex, quel que soit leur abonnement, mais uniquement dans l’Union européenne. OpenAI ne prévoit pas d’activer ce filigrane par défaut dans le monde entier au lancement. Le marquage n’apparaît pas sous la forme d’un symbole visible. Il repose sur une modification subtile du choix des mots, qui crée un motif imperceptible pour les lecteurs, mais détectable par un système spécialisé. Le filigrane reste associé au texte lorsqu’il est copié et collé. OpenAI indique que des modifications peuvent compliquer la détection. Dans un test, le remplacement de 10 % des mots par des synonymes a fait passer le taux de détection d’environ 92 % à 66 %. Les passages courts, les réponses mathématiques et les textes traduits sont également plus difficiles à analyser.

Pourquoi c’est important

Cette initiative donne une traduction technique aux obligations de transparence du règlement européen sur l’IA : les contenus générés par des systèmes d’intelligence artificielle doivent pouvoir être identifiés par d’autres systèmes. OpenAI réserve toutefois le déploiement décrit aux utilisateurs situés dans l’Union européenne. Le dispositif ne constitue pas une preuve définitive de l’origine d’un texte. Les essais cités montrent que l’édition peut réduire fortement la détection, tandis qu’un filigrane absent ne permet pas d’établir une rédaction humaine. OpenAI précise également que le marquage n’identifie pas l’utilisateur.

Questions fréquentes

Quels textes seront filigranés dans l’Union européenne ?

Les textes générés par ChatGPT et Codex seront concernés.

Le filigrane sera-t-il visible ?

Non. Il repose sur un motif lié au choix des mots et n’apparaît pas comme un symbole visible.

Quand le déploiement est-il prévu ?

OpenAI prévoit un déploiement dans les prochaines semaines.

Le filigrane identifiera-t-il l’utilisateur ?

Non. OpenAI indique que le filigrane n’identifie pas l’utilisateur.

Une modification peut-elle réduire la détection ?

Oui. Dans un test, remplacer 10 % des mots par des synonymes a réduit la détection d’environ 92 % à 66 %.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.