Nvidia réduit de moitié le coût de ses agents IA

Résumé

Nvidia présente SoL-Pi, un système qui réduit jusqu’à 49 % les jetons des agents de programmation en optimisant leur couche de contrôle, sans dégrader fortement leurs performances.

Les faits

Un nouvel article de recherche de Nvidia décrit SoL-Pi, un système qui optimise automatiquement le « harness », la couche de contrôle située entre le modèle d’intelligence artificielle et son environnement. Cette couche détermine notamment la manière dont l’agent observe les états, exécute des actions et traite les retours. Selon les chercheurs, la consommation de jetons baisse presque de moitié tandis que les performances restent globalement comparables. Le résumé de l’étude indique une réduction pouvant atteindre 49 %, avec des gains plus faibles sur d’autres bancs d’essai. Pour concevoir SoL-Pi, un agent de recherche a évalué 152 approches au cours de plus de 3 000 exécutions. L’objectif était de réduire les coûts liés au fonctionnement prolongé des agents de programmation, dont l’usage combine chaînes de raisonnement, appels d’outils et boucles de rétroaction. Cette approche cible le « harness » plutôt que le modèle lui-même. Les méthodes d’efficacité citées jusqu’ici portent notamment sur la réduction du coût de chaque jeton grâce à des noyaux d’attention plus rapides et à des infrastructures de service optimisées, sur la compression des modèles, comme la quantification, ou sur le recours à des modèles moins coûteux. SoL-Pi s’applique à la couche de contrôle de systèmes tels que Codex, Claude Code ou OpenClaw.

Pourquoi c’est important

Le résultat met en évidence un autre levier d’optimisation pour les agents de programmation : leur orchestration. En intervenant sur la façon dont l’agent reçoit les informations, utilise ses outils et exploite les retours de son environnement, SoL-Pi cherche à limiter la croissance du nombre de jetons sans modifier directement le modèle. L’enjeu est économique autant que technique. Plus un agent fonctionne longtemps sans supervision, plus les chaînes de raisonnement, les appels d’outils et les boucles de rétroaction peuvent augmenter sa consommation. La réduction pouvant atteindre 49 % suggère qu’une partie des gains d’efficacité peut venir du contrôle de l’agent, même si les résultats varient selon les bancs d’essai.

Questions fréquentes

Qu’est-ce que SoL-Pi ?

SoL-Pi est un système de Nvidia qui optimise automatiquement le « harness », la couche de contrôle située entre un modèle d’IA et son environnement.

De combien SoL-Pi réduit-il la consommation de jetons ?

SoL-Pi réduit la consommation de jetons jusqu’à 49 %, selon le résumé de l’étude.

Comment SoL-Pi a-t-il été développé ?

Un agent de recherche a testé 152 approches au cours de plus de 3 000 exécutions.

Que contrôle le « harness » ?

Il contrôle la manière dont l’agent observe les états, exécute des actions et traite les retours de son environnement.

Les performances restent-elles inchangées ?

Elles restent globalement comparables selon les chercheurs, mais les gains sont plus faibles sur d’autres bancs d’essai.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.