OpenAI s'aligne sur le Code européen IA

Résumé

OpenAI annonce son soutien au Code de pratique de la Commission européenne sur la transparence des contenus générés par l’IA, présenté comme une étape clé de mise en œuvre de l’AI Act. L’entreprise détaille une approche « multi-couche » de la provenance, combinant métadonnées C2PA, filigranes SynthID, outils de vérification publics et participation aux standards ouverts.

Les faits

OpenAI annonce soutenir le Code de pratique de la Commission européenne sur la transparence des contenus générés par l’IA, décrit comme « une étape importante dans la mise en œuvre de l’AI Act de l’UE et la construction d’un écosystème numérique plus transparent ». Cette adhésion est présentée comme cohérente avec « des années de recherche interne, de développement produit et de coopération avec l’écosystème » pour renforcer la provenance des contenus générés par l’IA. L’entreprise rappelle avoir commencé à ajouter des métadonnées C2PA à son outil de génération d’images DALL·E 3 en 2024, puis avoir « continué à renforcer la provenance grâce à des méthodes améliorées de marquage et de détection, à de nouvelles recherches et à la publication de [son] premier outil public de vérification ». OpenAI indique que des années d’expertise ont nourri sa contribution à l’élaboration de ce Code, « aux côtés de centaines d’autres parties prenantes ». OpenAI revendique une approche « multi-couche » de la provenance. Les images générées avec ChatGPT, Codex et l’API OpenAI « incluent à la fois des métadonnées C2PA et des filigranes SynthID », les premières permettant de transporter des informations plus riches, les seconds aidant à préserver un signal dans différents contextes. L’entreprise a aussi lancé une expérience publique de vérification via openai.com/verify pour permettre aux utilisateurs de vérifier si les images prises en charge contiennent des signaux de provenance associés aux images générées par OpenAI. La société souligne enfin son travail collectif sur les standards, en évoquant sa participation à des coalitions comme C2PA, « qui rassemble des organisations de presse, des fabricants d’appareils, des plateformes en ligne et des fournisseurs d’IA » afin de faire progresser des standards interopérables. Elle met en avant des garde-fous produits – politiques, classificateurs, canaux de signalement et processus d’application – qui complètent les signaux de provenance pour réduire les usages trompeurs des contenus générés par l’IA, notamment les usurpations d’identité et les manipulations liées aux élections.

Pourquoi c’est important

Cette prise de position inscrit OpenAI dans la trajectoire réglementaire européenne de l’AI Act, en reconnaissant que « la transparence des contenus générés par l’IA est un effort à l’échelle de l’écosystème » qui implique des acteurs « tout au long de la chaîne de valeur ». En soutenant un Code élaboré sous l’égide de la Commission, l’entreprise affirme vouloir se conformer aux exigences applicables à ses produits pertinents. L’article met aussi en lumière les défis techniques et opérationnels de la transparence : OpenAI rappelle que les signaux de provenance peuvent être perdus lorsque les contenus circulent en ligne, que les métadonnées peuvent être supprimées et les filigranes se dégrader. D’où son appel à des méthodes « efficaces, fiables et robustes », développées collectivement, et à un Code qui reste « ancré dans des méthodes qui fonctionnent en pratique » tout en conservant la flexibilité nécessaire face aux limites actuelles des techniques de provenance.

Questions fréquentes

Que soutient exactement OpenAI dans ce texte ?

OpenAI annonce son soutien au Code de pratique de la Commission européenne sur la transparence des contenus générés par l’IA, présenté comme une étape importante de mise en œuvre de l’AI Act et de construction d’un écosystème numérique plus transparent.

Pourquoi la provenance des contenus générés par l’IA est-elle jugée importante par OpenAI ?

OpenAI explique que les signaux de provenance donnent du contexte sur l’origine des contenus, la façon dont ils ont été créés ou édités, et s’ils sont ce qu’ils prétendent être, et qu’ils peuvent aider à détecter des campagnes de désinformation et soutenir l’intégrité des élections.

Quelles techniques de provenance OpenAI applique-t-elle aux images générées ?

OpenAI indique que les images générées avec ChatGPT, Codex et l’API OpenAI incluent des métadonnées C2PA et des filigranes SynthID, combinant ainsi plusieurs signaux pour renforcer la résilience de la provenance.

Existe-t-il un outil public pour vérifier les images générées par OpenAI ?

Oui, OpenAI mentionne une expérience publique de vérification via openai.com/verify, qui permet aux utilisateurs de vérifier si les images prises en charge contiennent des signaux de provenance associés aux images générées par OpenAI.

Comment OpenAI s’inscrit-elle dans les standards ouverts de provenance ?

OpenAI affirme contribuer au développement de standards interopérables, notamment en travaillant avec la coalition C2PA, qui rassemble des entreprises logicielles, des fabricants de caméras, des organisations médiatiques et des plateformes en ligne.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.