OpenAI lance un groupe indépendant pour encadrer ses IA

Résumé

OpenAI s’appuie sur neuf mathématiciens de renom pour conseiller les entreprises d’IA sur l’évaluation et la présentation des nouveaux résultats mathématiques.

Les faits

OpenAI a annoncé la création de l’Advisory Group on Mathematics and Artificial Intelligence (AGMAI), un groupe indépendant chargé de conseiller l’entreprise et d’autres sociétés d’intelligence artificielle sur leurs relations avec la recherche mathématique et la communauté des mathématiciens. Ses travaux porteront notamment sur la présentation et la diffusion des nouveaux résultats. Le groupe compte neuf membres issus notamment de Stanford, Harvard, Oxford et Cambridge. Il est hébergé par l’Institute for Advanced Study (IAS), à Princeton, dans le New Jersey, un centre de recherche mathématique présenté comme l’ancien cadre de figures telles qu’Albert Einstein, John von Neumann et J. Robert Oppenheimer. OpenAI indique que l’AGMAI fonctionnera de manière indépendante. Le groupe pourra formuler des recommandations que l’entreprise n’a pas sollicitées, commenter publiquement son impact sur les mathématiques et rendre ses avis publics. L’entreprise n’a toutefois pas détaillé les modalités précises de ces prérogatives. Cette annonce intervient après une série de résultats mathématiques spectaculaires ayant provoqué une crise de réputation pour OpenAI. Des chercheurs interrogés par The Verge ont décrit la création du groupe comme une première étape positive, tout en soulevant des questions sur son rôle réel, son influence et sa capacité à représenter l’ensemble de la communauté mathématique.

Pourquoi c’est important

La création de l’AGMAI traduit la volonté d’OpenAI de mieux encadrer la manière dont les résultats produits par ses systèmes sont évalués, présentés et rendus publics. L’enjeu dépasse la communication : il concerne aussi les standards académiques et les relations entre une entreprise d’IA et une discipline scientifique structurée autour de la vérification des démonstrations et de la reconnaissance par les pairs. Le dispositif reste néanmoins confronté à une question centrale : l’indépendance annoncée du groupe suffira-t-elle à lui donner une influence effective sur les décisions d’OpenAI ? La composition resserrée du panel et les interrogations exprimées par plusieurs chercheurs détermineront la portée concrète de cette nouvelle instance.

Questions fréquentes

Qu’est-ce que l’AGMAI ?

L’AGMAI est un groupe consultatif indépendant de neuf mathématiciens chargé de conseiller OpenAI et d’autres entreprises d’IA.

Quel est le rôle de l’AGMAI ?

Le groupe conseille sur l’évaluation, la présentation et la diffusion des nouveaux résultats mathématiques liés à l’intelligence artificielle.

Où le groupe est-il hébergé ?

L’AGMAI est hébergé par l’Institute for Advanced Study, à Princeton, dans le New Jersey.

Le groupe peut-il publier ses avis ?

Oui. OpenAI indique que le groupe pourra rendre ses conseils publics et commenter publiquement l’impact de l’entreprise sur les mathématiques.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.