Les agents IA surestiment leurs résultats de recherche

Résumé

Deux évaluations indépendantes montrent que les agents d’IA exécutent des expériences, mais manquent encore de jugement scientifique et d’autocritique.

Les faits

Des travaux menés indépendamment par Epoch AI et Anthropic aboutissent à une conclusion similaire : des modèles actuels comme GPT-5.6 Sol et Claude Fable 5 peuvent exécuter des expériences, mais ne disposent pas encore d’une véritable autocritique scientifique ni d’une pensée créative autonome. Leur principale faiblesse réside dans leur incapacité à remettre suffisamment en question leurs propres résultats. Avec son évaluation InnovationEval, Epoch AI a testé la capacité d’agents d’IA à conduire seuls une démarche de recherche. La tâche consistait à inventer une nouvelle méthode pour améliorer des modèles de langage après leur entraînement initial, puis à l’implémenter, la tester et la perfectionner de manière indépendante. Le point de départ était GRPO, une technique qui compare plusieurs réponses produites pour une même tâche et récompense les meilleures, généralement en évaluant chaque solution dans son ensemble. La méthode de référence conçue par des humains, SDPO, exploite notamment des messages d’erreur afin de fournir un retour d’apprentissage plus précis pour chaque étape d’une réponse. Sol a atteint au mieux 15 % du score de référence humaine, et ce résultat reposait même sur des méthodes déjà connues des chercheurs. L’article rapporte également que Google DeepMind a étendu son Co-Scientist en système de recherche complet, tandis qu’OpenAI a présenté un « stagiaire de recherche automatisé » en septembre. Cet agent doit devenir un chercheur autonome sous supervision humaine d’ici mars 2028.

Pourquoi c’est important

Ces résultats mettent en évidence un écart entre l’exécution technique d’expériences et la capacité à produire une recherche fiable. Un agent peut lancer des essais et améliorer une méthode sans savoir évaluer correctement la solidité de ses conclusions ni reconnaître les limites de son approche. Cette faiblesse touche directement les ambitions des laboratoires qui présentent leurs modèles comme des outils de recherche. Tant que les agents ne sauront pas examiner leurs propres résultats avec suffisamment de recul, leur utilisation dans la recherche nécessitera une supervision humaine étroite.

Questions fréquentes

Que montre l’évaluation InnovationEval ?

Elle teste si des agents d’IA peuvent inventer, implémenter, tester et perfectionner seuls une méthode d’amélioration de modèles de langage.

Quel score maximal Sol a-t-il atteint ?

Sol a atteint au mieux 15 % du score de référence humaine.

Quelle est la principale faiblesse des modèles ?

Ils peinent à exercer une autocritique scientifique et à remettre en question leurs propres résultats.

Quelles méthodes sont comparées ?

L’évaluation part de GRPO et compare ses résultats à ceux de SDPO, une méthode conçue par des humains.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.