L'IA propose beaucoup, l'humain garde le pouvoir de décision

Résumé

Une étude de 769 tâches montre que les agents IA formulent jusqu’à 55 % des propositions, tandis que les humains prennent encore 85 % des décisions finales.

Les faits

Une équipe de recherche de l’université Fudan, en Chine, a étudié son propre projet de développement d’un modèle d’IA. Elle a analysé 769 journaux de tâches, issus de 56 participants et des agents qu’ils utilisaient. L’étude porte sur la manière dont humains et agents ont collaboré pour construire le modèle de langage agentique Atria Dawn Preview. Atria Dawn Preview repose sur une architecture à mélange d’experts comptant 744 milliards de paramètres. Le modèle a été conçu pour des tâches de recherche et d’ingénierie. Son entraînement s’appuie sur une chaîne de traitement reliant chaque tâche à un environnement d’exécution réel, avec utilisation d’outils, production de résultats intermédiaires et vérification par des tests, des métriques ou des éléments issus de sources. Selon l’analyse, les agents IA fournissaient jusqu’à 55 % des propositions de méthodes, mais les humains prenaient plus de 85 % des décisions finales. L’extrait indique également qu’un tiers des tâches n’aurait pas été entrepris sans l’IA. Pour les méthodes et les paramètres, le schéma le plus fréquent était « l’IA propose, l’humain sélectionne » dans 55,4 % des cas. Les humains prenaient 85,5 % des décisions, contre 9,2 % pour l’IA. La progression du nombre d’actions réalisées par les agents ne signifie donc pas nécessairement qu’ils gagnent en autonomie. Les auteurs soulignent que les agents peuvent prendre en charge davantage d’étapes d’exécution tout en restant dépendants du jugement humain pour définir les objectifs, choisir les méthodes et arrêter les décisions finales. L’équipe indique par ailleurs que le modèle arrive en tête sur cinq des seize critères d’évaluation, notamment pour la recherche sur le web et la cybersécurité, sans disposer d’un avantage général sur ses concurrents.

Pourquoi c’est important

Ces résultats distinguent clairement la quantité de travail exécutée par un agent de son pouvoir de décision. Un système peut multiplier les appels aux outils, produire des résultats intermédiaires et traiter davantage de tâches sans décider seul de ce qu’il faut rechercher, de la méthode à retenir ou du périmètre à donner au projet. Pour le développement des modèles, l’enjeu se déplace ainsi de l’exécution vers la supervision. L’IA peut élargir l’espace des propositions et rendre possibles des tâches qui n’auraient pas été tentées autrement, tandis que les humains conservent le contrôle des choix structurants. L’étude d’Atria Dawn Preview invite donc à mesurer l’autonomie des agents à partir de leurs décisions effectives, et non du seul volume d’actions qu’ils accomplissent.

Questions fréquentes

Combien de journaux de tâches l’équipe a-t-elle analysés ?

L’équipe a analysé 769 journaux de tâches provenant d’un projet de développement de modèle d’IA.

Quelle part des propositions de méthodes provenait des agents IA ?

Les agents IA fournissaient jusqu’à 55 % des propositions de méthodes.

Qui prenait la majorité des décisions finales ?

Les humains prenaient plus de 85 % des décisions finales.

Quel modèle a été étudié ?

L’étude portait sur Atria Dawn Preview, un modèle de langage agentique doté de 744 milliards de paramètres.

L’activité accrue des agents prouve-t-elle leur autonomie ?

Non. Les auteurs indiquent que davantage d’activité des agents ne signifie pas nécessairement davantage d’autonomie.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.