Nvidia lance un outil pour gérer des millions d'agents IA

D'après NVIDIA Developer (10 novembre 2026 à 16h00)

Résumé

NVIDIA présente Agent Substrate, un runtime open source qui densifie l’exécution d’agents IA et coordonne leurs ressources sur Kubernetes à grande échelle.

Les faits

NVIDIA présente Agent Substrate, un runtime open source destiné aux agents exécutés dans des environnements isolés. Le projet a été donné à la Cloud Native Computing Foundation (CNCF) Sandbox et vise à exécuter des millions d’agents et d’outils avec une densité annoncée 10 fois supérieure à celle des conteneurs standards. Le système répond à une difficulté propre aux agents IA : ils alternent entre des phases d’activité brèves et des périodes d’attente, notamment lorsqu’ils attendent une intervention humaine, le résultat d’un outil ou la réponse d’un modèle. Agent Substrate regroupe plusieurs sessions sur un petit nombre de Pods Kubernetes actifs, puis sauvegarde les sessions inactives avec leur mémoire et leur système de fichiers avant de les restaurer sur le prochain worker disponible. L’architecture cible notamment les assistants de programmation, le post-entraînement par renforcement et les environnements GPU temporaires destinés à la recherche, à la compilation et à l’évaluation comparative. Elle prévoit aussi la mise en file des requêtes lorsque tous les workers sont occupés, des limites de ressources par conteneur pour les microVM et une conception indépendante des fournisseurs pour suspendre et restaurer l’état GPU avec Kubernetes Dynamic Resource Allocation. Agent Substrate s’intègre à NVIDIA Dynamo et à KAI Scheduler au sein de la plateforme NVIDIA DSX AI Factory. Dynamo coordonne l’inférence entre les workers GPU, tandis qu’Agent Substrate gère les environnements des agents. KAI Scheduler place les Pods workers aux côtés des serveurs d’inférence et des entraîneurs GPU.

Pourquoi c’est important

L’approche rompt avec le modèle consistant à maintenir un Pod par session ou à recréer un Pod à chaque étape. La première option immobilise de la mémoire pendant les périodes d’inactivité ; la seconde impose un démarrage à froid de plusieurs secondes et peut faire perdre l’état de l’agent. En conservant cet état lors de la suspension, Agent Substrate cherche à mieux adapter l’infrastructure au fonctionnement intermittent des agents. Le don du projet à la CNCF Sandbox inscrit également cette architecture dans une démarche ouverte, alors que les infrastructures pour agents tendent à se fragmenter autour de runtimes propriétaires. L’association avec NVIDIA Dynamo et KAI Scheduler relie l’exécution des environnements, l’inférence et le partage des ressources d’un même cluster.

Questions fréquentes

Qu’est-ce qu’Agent Substrate ?

C’est un runtime open source et sécurisé destiné à exécuter des agents dans des environnements isolés sur Kubernetes.

Combien d’agents Agent Substrate vise-t-il à exécuter ?

Le projet est conçu pour exécuter des millions d’agents et d’outils, avec une densité annoncée 10 fois supérieure à celle des conteneurs standards.

Comment le système gère-t-il les sessions inactives ?

Il sauvegarde leur mémoire et leur système de fichiers, libère le worker, puis restaure la session sur un worker disponible lorsqu’elle reprend.

Avec quels composants Agent Substrate s’intègre-t-il ?

Il s’intègre à NVIDIA Dynamo et à KAI Scheduler dans la plateforme NVIDIA DSX AI Factory.

Source

NVIDIA Developer

Auteur

Rédaction IA-Medias

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.