OpenAI affronte des mathématiciens médaillés Fields

Résumé

Vingt-cinq médaillés Fields dénoncent dans une lettre ouverte la course des laboratoires d’IA aux preuves mathématiques, jugée menaçante pour leur travail intellectuel.

Les faits

Vingt-cinq mathématiciens de premier plan, tous lauréats de la médaille Fields, ont signé une lettre ouverte affirmant que les laboratoires d’IA menacent leur travail intellectuel en cherchant à se dépasser sur la résolution de célèbres problèmes de mathématiques. La semaine où cette lettre est publiée, Tristan Buckmaster, professeur à l’université de New York, accuse OpenAI d’avoir exercé des pressions pour qu’il ne crédite pas un collaborateur employé par Anthropic dans la résolution d’un important problème, et s’interroge sur l’usage possible de leurs travaux avec Codex pour produire, en un week-end d’inférence, une preuve présentée comme révolutionnaire. Jeudi, OpenAI a retiré son sponsoring d’un événement de mathématiques à CalTech après avoir été critiqué par des chercheurs de l’université. Les signataires de la lettre soulignent que la capacité des modèles d’IA à résoudre de grands défis mathématiques ne sera bénéfique que si ces solutions peuvent être comprises et diffusées par la communauté des mathématiciens, puis par le reste du monde. Ils dénoncent des annonces de résultats faites dans la précipitation, « laissant aucun temps pour une rédaction correcte, l’isolement de nouvelles méthodes et idées, et la citation des travaux antérieurs pertinents », et rappellent que la preuve avancée par OpenAI reste non vérifiée. Selon eux, cette dynamique soulève des questions graves d’attribution et de plagiat et menace la transmission humaine entre mathématiciens, sans laquelle « les idées conçues par l’IA ne deviendraient jamais pleinement vivantes ».

Pourquoi c’est important

Les inquiétudes exprimées dans cette lettre s’inscrivent dans un climat de paranoïa croissante parmi les mathématiciens, certains craignant que leurs usages de Codex aient été réinjectés dans les nouveaux modèles d’OpenAI. Les auteurs décrivent une situation où des laboratoires de pointe peuvent dépenser des dizaines de millions de dollars pour utiliser des modèles de langue afin de devancer les chercheurs originels sur une preuve, ce qui risque d’encourager la discrétion plutôt que l’ouverture de la recherche. Ce texte fait suite à la Leiden Declaration, publiée en juin par un groupe de travail de mathématiciens, qui examinait déjà la manière dont les preuves produites par des modèles de langage transformeront leur métier et proposait des recommandations aux mathématiciens, aux institutions et aux décideurs. Les signataires insistent sur le fait que la valeur des mathématiques ne réside pas seulement dans les preuves ou dans l’attribution du mérite, mais dans la « super-structure intellectuelle » qui forme les étudiants, découvre de nouvelles questions et idées et les intègre dans la civilisation humaine. Ils estiment que les enjeux rencontrés aujourd’hui par la communauté mathématique annoncent ceux que devront affronter d’autres professions scientifiques et créatives, voire l’ensemble de l’humanité, à mesure que l’IA modifie les façons de travailler.

Questions fréquentes

Combien de mathématiciens ont signé la lettre ouverte contre les laboratoires d’IA ?

Vingt-cinq mathématiciens de premier plan, tous lauréats de la médaille Fields, ont signé cette lettre ouverte.

Que reproche Tristan Buckmaster à OpenAI dans cette affaire ?

Il accuse OpenAI de le pousser à ne pas créditer un collaborateur d’Anthropic et s’interroge sur l’usage de leurs travaux avec Codex.

Quelle décision OpenAI a-t-il prise concernant un événement à CalTech ?

OpenAI a retiré son sponsoring d’un événement de mathématiques à CalTech après des critiques de chercheurs de l’université.

Que disent les signataires sur la façon dont les résultats d’IA sont annoncés ?

Ils dénoncent des annonces faites dans la précipitation, sans temps pour une rédaction correcte ni pour citer les travaux antérieurs.

Quel texte précédent est évoqué comme contexte de cette lettre ?

Les auteurs mentionnent la Leiden Declaration, publiée en juin par un groupe de travail de mathématiciens.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.