Christian Stano (Anyscale) : trois phases pour faire passer l’IA du prototype à la production

Résumé

Dans un entretien avec Unite.AI, Christian Stano, Field CTO d’Anyscale, décrit les blocages récurrents des entreprises lorsqu’elles industrialisent l’IA. Fort de son expérience chez Attentive, Coalfire et Deloitte, il explique comment unifier calcul distribué et plateformes ML avec Ray et Anyscale pour passer à l’échelle.

Les faits

Christian Stano, Field CTO chez Anyscale, a construit sa carrière à l’intersection de l’infrastructure IA à grande échelle, des plateformes de machine learning et du calcul distribué. Avant Anyscale, il dirigeait l’organisation AI/ML Platform d’Attentive, où il a fait évoluer une infrastructure de personnalisation pour plus d’un demi‑milliard d’abonnés et favorisé l’adoption de systèmes de calcul unifiés basés sur Ray afin d’améliorer la vélocité de développement tout en réduisant les coûts opérationnels. Plus tôt dans sa carrière, il a travaillé sur la cybersécurité, l’architecture cloud et des initiatives d’IA pour le secteur public au sein d’organisations comme Coalfire et Deloitte, où il a contribué à l’une des premières plateformes de machine learning du département de la Défense américain. Son parcours couvre l’ingénierie de plateformes IA, le MLOps, l’infrastructure cloud‑native, l’accompagnement des développeurs et la mise à l’échelle organisationnelle, avec un objectif : aider les entreprises à opérationnaliser l’IA à l’échelle de production. Anyscale est l’entreprise à l’origine de Ray, un framework open source de calcul distribué largement utilisé pour mettre à l’échelle des charges de travail IA et Python sur des grappes de CPU et de GPU. Fondée par les créateurs originaux de Ray issus du RISELab de l’UC Berkeley, la société se concentre sur la simplification du déploiement, de l’orchestration et de la gestion d’infrastructures IA de grande envergure pour l’entraînement, l’inférence, le traitement de données et les charges de travail d’IA agentique. Interrogé sur le passage des pilotes à la production, Christian Stano identifie trois problèmes récurrents : l’absence de « voie pavée » fiable entre développement et production, une infrastructure qui ne passe pas à l’échelle et des équipes « qui volent à l’aveugle » faute d’observabilité. Il résume son approche en trois phases : « faire que cela fonctionne, faire que ce soit correct, faire que ce soit rapide », des étapes itératives où il faut rester discipliné sur la phase dans laquelle on se trouve. À Attentive, il décrit un goulot d’étranglement lié à la complexité croissante de l’infrastructure, jusqu’à un point où même les plus grosses machines verticalement dimensionnées déclenchaient des erreurs de mémoire, tandis qu’un simple passage à l’horizontal ne suffisait plus. Ce qui a débloqué le passage à l’échelle a été l’unification du traitement de données, de l’entraînement, de l’inférence et du serving sur Ray et Anyscale, avec un impact immédiat : baisse marquée des coûts d’infrastructure, cycles d’entraînement significativement plus rapides malgré la croissance des volumes de données et capacité à servir des modèles à des ordres de grandeur supplémentaires de clients.

Pourquoi c’est important

Le témoignage de Christian Stano illustre la maturité croissante des infrastructures IA : au‑delà du choix de modèles, la clé réside dans une couche de calcul unifiée capable de supporter entraînement, inférence et données à grande échelle. Son retour d’expérience montre que la fragmentation des outils devient rapidement un frein structurel à l’industrialisation. En décrivant des étapes claires – « faire que cela fonctionne, faire que ce soit correct, faire que ce soit rapide » – il offre un cadre pragmatique pour les entreprises qui veulent sortir de la logique de preuve de concept. Le rôle d’Anyscale et de Ray, positionnés comme couche centrale de la pile d’infrastructure IA, apparaît comme stratégique pour permettre aux organisations de passer d’expérimentations locales à des systèmes distribués prenant en charge des centaines de millions d’utilisateurs.

Questions fréquentes

Qui est Christian Stano ?

Christian Stano est Field CTO chez Anyscale. Il a bâti sa carrière dans l’infrastructure IA à grande échelle, les plateformes de machine learning et le calcul distribué, avec des expériences chez Attentive, Coalfire et Deloitte.

Quel rôle joue Anyscale dans l’écosystème IA ?

Anyscale est l’entreprise derrière Ray, framework open source de calcul distribué pour mettre à l’échelle les charges IA et Python. Elle simplifie déploiement, orchestration et gestion d’infrastructures IA pour entraînement, inférence et traitement de données.

Quels obstacles fréquents au passage en production de l’IA sont évoqués ?

Christian Stano cite l’absence de chemin standardisé vers la production, une infrastructure qui ne passe pas à l’échelle réelle et un manque d’observabilité laissant les équipes « voler à l’aveugle » sur leurs systèmes IA.

Quelle approche propose Christian Stano pour faire évoluer les systèmes IA ?

Il décrit trois phases itératives : « faire que cela fonctionne, faire que ce soit correct, faire que ce soit rapide », en insistant sur la discipline consistant à ne pas brûler les étapes tant que la base n’est pas solide.

Comment Ray et Anyscale ont-ils aidé à passer à l’échelle chez Attentive ?

L’unification du traitement de données, de l’entraînement, de l’inférence et du serving sur Ray et Anyscale a immédiatement réduit les coûts d’infrastructure, accéléré les cycles d’entraînement et permis de servir des modèles à beaucoup plus de clients.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.