OpenAI automatise sa recherche pour accélérer l'AGI

Résumé

OpenAI décrit comment ses agents de code transforment le travail quotidien des chercheurs, accélèrent les expériences et posent de nouvelles questions de sécurité sur la route vers une IA autonome.

Les faits

OpenAI affirme que, pour que une AGI bénéficie à l’ensemble de l’humanité, son développement doit être soumis à une gouvernance démocratique fondée sur un débat public informé sur les capacités, les risques et les garde‑fous des systèmes d’IA très puissants. L’entreprise insiste sur la nécessité pour les citoyens de comprendre la trajectoire probable de ces systèmes de frontière afin de peser sur leur évolution. La société indique viser la construction sûre d’un « chercheur IA automatisé » travaillant sous supervision humaine pour faire progresser l’apprentissage profond et l’alignement. Elle précise avoir atteint l’objectif annoncé à l’automne dernier : disposer, en septembre de cette année, d’un « stagiaire de recherche automatisé », capable d’exécuter des tâches de recherche bien définies, y compris celles qui prendraient quelques jours à un chercheur expérimenté. OpenAI affirme également faire « de solides progrès » vers un chercheur IA entièrement automatisé à horizon mars 2028. Selon la description fournie, le travail quotidien des chercheurs d’OpenAI a « substantiellement » changé au fil de l’année. Les chercheurs utilisent des agents de code tout au long de la journée, souvent dans des sessions concurrentes, avec une utilisation totale qui augmente rapidement et dépasse celle des autres équipes. Ils contribuent du code plus rapidement, mènent davantage d’expériences, et confient aux agents des tâches de plus en plus complexes, avec des succès plus fréquents. OpenAI souligne que ces observations confortent l’impression interne que ces outils « accélèrent significativement » le progrès de la recherche, tout en rappelant que les humains restent responsables de fixer les priorités, d’évaluer les idées et de décider des mises à l’échelle ou des déploiements. OpenAI soutient que, si elles sont menées de manière responsable, ces capacités de recherche automatisée peuvent produire des modèles qui améliorent directement le bien‑être humain et font avancer sa mission, en réduisant le coût de l’intelligence avancée et en aidant à résoudre les problèmes d’alignement. L’entreprise affirme qu’un chercheur IA automatisé peut aussi être un chercheur automatisé en sécurité ou en alignement, capable de contribuer à la protection des infrastructures critiques, de défendre contre des agents IA dangereux et de concevoir de nouvelles mesures de protection. Elle rappelle toutefois ne pas savoir encore comment parvenir en toute sécurité à un « RSI » pleinement aligné et place le travail d’alignement et de sécurité au cœur de cet effort, avec la promesse de ralentir ou d’arrêter le développement ou le déploiement de systèmes jugés insuffisamment sécurisés. À la suite de l’incident récent impliquant Hugging Face, OpenAI indique avoir mis en pratique cet engagement en suspendant l’entraînement par renforcement de ses derniers modèles destinés au déploiement, le temps de durcir ses environnements de recherche, d’élargir la couverture de ses systèmes de monitoring et de mener de nouveaux tests de red team. Certains charges de travail ont repris sous des contrôles renforcés, d’autres restent arrêtés. OpenAI affirme avoir relevé ses standards de sécurité et d’alignement et déplacé ces exigences plus en amont dans le cycle de vie des modèles, en demandant des preuves plus solides de comportement aligné pendant toute la phase d’entraînement. Dans ce contexte, l’entreprise propose un « instantané détaillé » de la manière dont les systèmes agentiques ont contribué à ses progrès récents vers le RSI. Elle rappelle avoir écrit dans son « blueprint » de politique pour les systèmes de frontière qu’elle souhaite que les entreprises soient tenues de suivre publiquement leurs progrès vers le RSI, et annonce son intention de continuer à rendre compte de ces avancées tout en adaptant sa démarche de transparence au fur et à mesure que ses méthodes de mesure et sa compréhension s’améliorent.

Pourquoi c’est important

La description par OpenAI de l’usage intensif d’agents de code dans la recherche offre une première fenêtre sur la façon dont les laboratoires de pointe réorganisent leur production scientifique autour d’outils IA semi‑autonomes. Le passage d’un « stagiaire de recherche automatisé » à l’objectif explicite d’un chercheur IA pleinement automatisé en 2028 formalise une trajectoire de montée en puissance qui concerne directement la gouvernance de l’AGI et la capacité des acteurs humains à garder la main sur les priorités. Sur le plan stratégique, OpenAI lie explicitement cette accélération de la recherche à la nécessité de renforcer simultanément l’alignement et la sécurité, en s’engageant à ralentir ou stopper certains développements en cas de risque jugé « inacceptable », comme après l’incident Hugging Face. Cette articulation entre progrès vers le RSI, transparence publique et durcissement des garde‑fous préfigure des standards de divulgation et de contrôle qui pourraient s’imposer à l’ensemble du secteur des systèmes d’IA de frontière.

Questions fréquentes

Que signifie « stagiaire de recherche automatisé » pour OpenAI ?

OpenAI désigne ainsi un système capable d’exécuter des tâches de recherche bien définies, incluant des tâches qui prendraient quelques jours à un chercheur expérimenté.

Quel est l’objectif de calendrier pour un chercheur IA automatisé ?

OpenAI indique faire de solides progrès vers la création d’un chercheur IA automatisé d’ici mars 2028, sous supervision humaine.

Comment les agents de code transforment le travail des chercheurs d’OpenAI ?

OpenAI indique que les chercheurs utilisent désormais des agents de code toute la journée, écrivent du code plus vite et mènent davantage d’expériences.

Quel lien OpenAI établit‑elle entre recherche automatisée et sécurité ?

L’entreprise estime qu’un chercheur IA automatisé peut aussi servir à la sécurité et à l’alignement, en aidant à défendre contre des agents IA dangereux et à renforcer les protections.

Comment OpenAI a réagi à l’incident impliquant Hugging Face ?

Elle a suspendu l’entraînement par renforcement de ses derniers modèles destinés au déploiement et durci ses environnements, ses tests et son monitoring.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.