OpenAI veut des standards mondiaux pour l'IA

Résumé

OpenAI appelle les États-Unis à conduire, avec d’autres pays, l’élaboration de standards techniques mondiaux pour l’IA de frontière, afin de mieux coordonner évaluations, reporting et gouvernance.

Les faits

OpenAI dit vouloir « garantir que l’intelligence artificielle générale profite à toute l’humanité » et présente trois objectifs majeurs : « naviguer dans la prochaine période de progrès de l’IA », « apporter les bénéfices du progrès scientifique et de la croissance économique » et « donner à chacun les moyens d’agir avec une AGI personnelle ». L’entreprise relie cette feuille de route à l’évolution rapide de l’IA dans de nombreuses entreprises et dans de nombreux pays. Dans ce cadre, OpenAI estime qu’une IA « capable » et « alignée » jouera un rôle central pour traverser cette transition. Le texte affirme qu’il faut faire progresser la recherche sur l’alignement pour que les systèmes restent « alignés avec les valeurs humaines et sous contrôle humain », d’autant plus que les systèmes gagnent en capacités et en autonomie, y compris lorsqu’ils prennent en charge davantage de recherche et développement en IA. Le billet soutient aussi que des standards internationaux pour la sécurité et la sûreté dans le développement de l’IA de frontière peuvent être « aussi importants que la recherche sur l’alignement elle-même ». OpenAI explique que ces standards peuvent créer des définitions communes de preuves de qualité et des bases de référence partagées pour le niveau de rigueur des garde-fous techniques, afin de répondre à la question : « À quoi ressemble une bonne mitigation du risque catastrophique lié à l’IA ? » L’entreprise identifie trois difficultés que ces standards internationaux devraient aider à résoudre : la fragmentation, l’action collective et les capacités inégales. Elle conclut que « les États-Unis devraient mener un effort pour travailler avec des pays du monde entier afin de développer des standards techniques mondiaux pour l’IA de frontière, y compris pour le RSI », en précisant que ces standards ne servent pas de licences ni d’exigences obligatoires de révision ou d’approbation avant mise sur le marché.

Pourquoi c’est important

Cette prise de position replace la gouvernance de l’IA sur le terrain des standards techniques plutôt que sur celui des seules annonces de produits. En appelant à des définitions communes, à des protocoles de reporting et à une base de preuve partagée, OpenAI propose une architecture de coordination susceptible d’influencer la manière dont les laboratoires, les régulateurs et les gouvernements comparent les risques et évaluent les garde-fous. Le texte est aussi important parce qu’il lie directement l’accélération de la recherche automatisée à un enjeu de contrôle humain. En présentant le RSI comme un sujet qui exige à la fois prudence, responsabilité et choix démocratiques informés, OpenAI cherche à cadrer la prochaine phase de l’IA comme un problème de gouvernance internationale, et pas seulement comme une course technologique entre entreprises.

Questions fréquentes

Que demande OpenAI sur la gouvernance de l’IA de frontière ?

OpenAI veut que les États-Unis travaillent avec d’autres pays pour créer des standards techniques mondiaux, y compris pour le RSI.

Quels sont les trois objectifs affichés par OpenAI ?

Naviguer la prochaine période de progrès de l’IA, tirer parti du progrès scientifique et de la croissance économique, et donner à chacun une AGI personnelle.

Quels problèmes OpenAI veut-elle résoudre avec ces standards ?

La fragmentation, l’action collective et les capacités inégales dans le développement de l’IA de frontière.

Ces standards seraient-ils des autorisations de mise sur le marché ?

Non. OpenAI précise qu’ils ne serviraient pas de licences ni d’exigences obligatoires de révision ou d’approbation avant publication.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.