Hugging Face unifie l'IA sans frais de sortie de données

Résumé

Hugging Face Storage devient un backend natif de SkyPilot, permettant de lancer des workloads IA sur n’importe quel cloud tout en stockant modèles et données sans egress.

Les faits

Hugging Face et SkyPilot annoncent une intégration permettant de lancer des workloads d’intelligence artificielle sur n’importe quel cloud, tout en conservant les modèles et jeux de données sur le Hub Hugging Face. L’objectif affiché est de « rejoindre les deux moitiés » : les modèles et datasets restent sur le Hub, tandis que SkyPilot exécute le calcul – développement, entraînement ou serving – sur les clusters disposant des GPU. L’article souligne que, pour la plupart des équipes, les modèles et datasets résident dans un bucket hébergé dans une région et un cloud uniques, alors que les GPU utilisables se trouvent de plus en plus sur un autre cloud. Dès que ces deux éléments se séparent, les équipes paient une « taxe de transfert inter‑cloud » simplement pour lire leurs propres données sur leurs propres GPU. Hugging Face indique qu’il ne facture aucun egress sur son stockage, ce qui signifie que la lecture des données vers les GPU ne génère pas de coût de sortie, quel que soit le cloud utilisé. Concrètement, Hugging Face Storage devient un backend de premier plan dans SkyPilot, accessible via le schéma hf:// et la clé HF_TOKEN déjà utilisée par les équipes. Les tâches SkyPilot peuvent ainsi monter un Bucket Hugging Face ou n’importe quel dépôt du Hub grâce à une URL hf:// et les paramètres file_mounts, avec plusieurs modes : un Bucket en lecture‑écriture pour les checkpoints, logs et données traitées, un dépôt de modèle en lecture seule, ou encore un dépôt de dataset épinglé sur une révision. Ce schéma hf:// couvre tout le cycle de vie : lecture du modèle et du dataset, écriture des checkpoints dans un Bucket pendant l’entraînement, publication du modèle final dans un dépôt, puis récupération sur les serveurs d’inférence. L’intégration repose sur le backend FUSE hf-mount de Hugging Face. Un Bucket ou un dépôt apparaît comme un chemin local, à côté des autres montages FUSE déjà pris en charge par SkyPilot comme gcsfuse, blobfuse2, rclone ou goofys. Le chargement des données se fait au niveau du système de fichiers : lors d’un read(), le driver récupère uniquement les octets nécessaires depuis le backend Xet, ce qui réduit le volume de données traversant le réseau. hf-mount maintient en outre un cache disque, si bien que les lectures répétées restent locales. Pour le store hf, les modes MOUNT et MOUNT_CACHED se comportent de la même façon, avec cache conservé dans les deux cas. L’article insiste sur le fait que ces lectures sont « paresseuses » : un processus peut commencer à travailler sur un fichier volumineux avant que l’intégralité ne soit téléchargée, au lieu d’attendre une copie complète. Les GPU peuvent ainsi être occupés presque immédiatement, en s’entraînant sur des données qui arrivent en flux, plutôt que de rester inactifs et facturés pendant le transfert des datasets ou checkpoints. Le gain est maximal sur la première époque, lorsque le cache est encore vide. À l’inverse, le mode COPY choisit une approche classique en téléchargeant les données en amont via huggingface_hub, sans exigences particulières.

Pourquoi c’est important

Cette intégration entre Hugging Face Storage et SkyPilot répond à un problème structurel de l’IA en production : la dissociation croissante entre l’emplacement des données et celui des GPU. En supprimant les frais d’egress et en offrant un accès direct aux Buckets et dépôts Hub depuis n’importe quel cloud, elle réduit la « taxe de transfert inter‑cloud » qui pénalise les équipes lorsqu’elles lisent leurs propres données pour entraîner ou servir des modèles. Sur le plan opérationnel, le backend hf-mount et le schéma hf:// simplifient fortement le cycle de vie des workloads IA. Les équipes peuvent conserver leurs modèles et datasets sur le Hub sans migration, monter ces ressources dans SkyPilot avec une simple URL et bénéficier d’un cache disque et de lectures paresseuses. Cela permet de démarrer plus vite les entraînements, d’optimiser l’utilisation des GPU et de rationaliser la publication et le déploiement des modèles, tout en restant agnostiques du fournisseur de cloud.

Questions fréquentes

Que permet l’intégration entre Hugging Face Storage et SkyPilot ?

Elle permet de lancer des workloads IA sur n’importe quel cloud tout en conservant modèles et datasets sur le Hub Hugging Face, sans frais d’egress.

Comment accède‑t‑on aux Buckets ou dépôts Hugging Face dans SkyPilot ?

En montant un Bucket ou dépôt Hub via une URL hf:// et le backend store: hf dans la configuration file_mounts.

Quels types de ressources peuvent être montés avec hf:// dans SkyPilot ?

Des Buckets Hugging Face en lecture‑écriture, des dépôts de modèles en lecture seule et des dépôts de datasets, éventuellement épinglés à une révision.

Quel est l’avantage du backend hf-mount pour les workloads IA ?

hf-mount fonctionne en FUSE, ne télécharge que les octets lus, maintient un cache disque et permet des lectures paresseuses pour occuper les GPU plus vite.

Que fait le mode COPY par rapport à MOUNT dans cette intégration ?

Le mode COPY télécharge les données en amont via huggingface_hub, tandis que MOUNT lit et met en cache les données à la volée.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.