OpenAI accusée de limiter l’accès à ses avancées scientifiques

Résumé

OpenAI annonce des avancées en mathématiques, informatique et physique, mais des chercheurs dénoncent les barrières imposées à leur examen public.

Les faits

OpenAI a annoncé lundi des avancées présentées comme importantes dans les domaines des mathématiques, de l’informatique et de la physique. L’entreprise affirme faire évoluer sa manière de communiquer ses résultats. Pour ses travaux en mathématiques, OpenAI a publié le résultat produit par l’intelligence artificielle, afin de laisser les chercheurs organiser eux-mêmes leurs efforts pour l’expliquer. En informatique, l’entreprise prévoit également de réunir un groupe externe de chercheurs chargé d’expliquer le résultat. Le résultat concernant la physique n’a pas encore été publié. OpenAI a indiqué qu’elle s’en remettrait à un groupe externe d’experts pour décider de la manière de diffuser les documents. La plupart des experts interrogés par The Verge ont accueilli favorablement la consultation de chercheurs extérieurs. Ils ont toutefois estimé que l’annonce publique de résultats devait aussi permettre à chacun de les examiner, plutôt que de réserver leur accès à des personnes sélectionnées.

Pourquoi c’est important

La controverse porte sur l’équilibre entre la prudence d’OpenAI et les exigences de vérification propres à la recherche. Des chercheurs souhaitent pouvoir examiner directement les résultats annoncés et contribuer à leur compréhension. L’Advisory Group on Mathematics and Artificial Intelligence avait déconseillé la veille cette méthode, estimant que la sélection préalable de certains destinataires pouvait entraîner un accès inégal, une sélection biaisée et des retards. Le groupe recommandait plutôt de publier les résultats sur des dépôts scientifiques, avec des preuves formalisées et des informations sur le choix des problèmes.

Questions fréquentes

Quelles disciplines sont concernées par les annonces d’OpenAI ?

Les mathématiques, l’informatique et la physique.[1]

Le résultat de physique a-t-il été publié ?

Non. OpenAI a indiqué qu’elle consulterait un groupe externe d’experts avant sa diffusion.[1]

Que reprochent certains chercheurs à OpenAI ?

Ils lui reprochent d’ajouter des barrières en sélectionnant des experts chargés de superviser l’accès aux résultats.[1]

Que recommande l’AGMAI ?

Le groupe recommande une publication sur des dépôts scientifiques, avec des preuves formalisées et des informations sur le choix des problèmes.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.