Sakana AI lance MASS, l'IA qui s'améliore seule

Résumé

La méthode MASS permet à un modèle de progresser seul en résolvant, évaluant et optimisant des tâches, mais peut renforcer ses erreurs récurrentes.

Les faits

Des chercheurs de Sakana AI et de l’Université de Californie à Berkeley ont présenté « Multi-Agent Self-Supervision », ou MASS, une méthode d’amélioration récursive permettant à un seul modèle de langage de résoudre des tâches, d’optimiser leur exécution et d’évaluer les résultats. La méthode fonctionne sans modèle enseignant plus puissant. MASS organise le travail au moyen d’un flux de travail textuel définissant le rôle et les consignes de chaque sous-agent. Un « contrat » précise les informations à restituer et les contrôles à effectuer, tandis qu’un « saut » détermine l’ordre des appels. Un orchestrateur répartit ensuite le travail entre les sous-agents. Lors de la boucle interne, les paramètres du modèle restent figés. Le modèle exécute un flux candidat, compare le résultat au flux « champion », puis propose une nouvelle organisation en modifiant principalement les contrats et les sauts. Dans la boucle externe, le champion est exécuté 18 fois par tâche et le modèle sélectionne lui-même jusqu’à 15 exécutions pour l’entraînement. Après deux cycles, le taux de victoire face au modèle de base atteint 69,9 %, contre 53,9 % après un seul cycle. L’accord de l’auto-évaluateur avec des juges externes progresse de 73 % à 93 %. Cependant, si le modèle ne détecte pas la même erreur lorsqu’il résout, contrôle et révise une tâche, il peut prendre cette erreur pour un progrès et la renforcer lors du cycle d’entraînement suivant.

Pourquoi c’est important

MASS montre qu’un modèle peut améliorer simultanément sa manière de résoudre les problèmes, d’évaluer les résultats et d’organiser le travail, sans dépendre d’un modèle enseignant plus performant. Cette approche ouvre une piste vers des systèmes capables d’optimiser leurs propres flux de travail à partir de leurs traces d’exécution. La limite centrale tient au partage des mêmes angles morts entre les trois rôles. Une erreur non détectée par le solveur peut également échapper au contrôleur et à l’optimiseur, puis être intégrée au cycle suivant comme une amélioration. Les auteurs identifient ce mécanisme comme le « talon d’Achille » de l’amélioration récursive et appellent à des contrôles indépendants, à des limites d’autonomie et à des conditions claires d’intervention.

Questions fréquentes

Qu’est-ce que la méthode MASS ?

MASS est une méthode d’amélioration récursive dans laquelle un même modèle résout les tâches, optimise leur exécution et évalue les résultats.[1]

Quel résultat MASS obtient-il après deux cycles ?

Le taux de victoire face au modèle de base atteint 69,9 % après deux cycles, contre 53,9 % après un seul.[1]

Quelle est la principale faiblesse de MASS ?

Le modèle peut manquer la même erreur dans ses trois rôles, la considérer comme un progrès et la renforcer pendant l’entraînement suivant.[1]

Comment MASS organise-t-il les sous-agents ?

Des contrats définissent les informations et contrôles requis, tandis que des sauts fixent l’ordre des appels ; un orchestrateur répartit le travail.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.