ZML lance un serveur gratuit pour doper l'IA sur toutes les puces

Résumé

La startup parisienne ZML lance ZML/LLMD, un serveur d’inférence gratuit visant à accélérer les modèles de langage ouverts sur Nvidia, AMD, TPU, Apple Metal et Intel Arc.

Les faits

ZML, startup française spécialisée dans l’IA et adoubée par le lauréat du prix Turing Yann LeCun, lance ZML/LLMD, un logiciel de performance d’inférence qui permet à une variété de grands modèles de langage open source de tourner sur plusieurs types de puces, dont Nvidia, AMD, les TPU de Google, Apple Metal et Intel Arc. Avec ZML/LLMD, présenté comme un nouveau serveur d’inférence pour modèles de langage, l’ambition de l’entreprise est de « briser les silos existants » et de rendre différents types de puces disponibles pour les cas d’usage IA à leur vitesse maximale, voire parfois plus rapide, explique son fondateur Steeve Morin. Alors que l’IA s’intègre dans le travail et la vie quotidienne, il souligne que l’optimisation de l’inférence, c’est-à-dire le traitement des requêtes, a pris le pas sur l’entraînement des modèles en importance, mais reste freinée par des barrières logicielles et d’architecture qui entraînent un enfermement chez certains fournisseurs. ZML entend offrir aux entreprises et aux acteurs du cloud la possibilité d’utiliser un mélange de puces, dont certaines peuvent être moins coûteuses ou consommer moins d’énergie. « L’idée est de redonner aux gens le pouvoir de créer leur propre système et de réaliser de vrais gains d’efficacité qui permettent [à l’IA] d’être diffusée », résume Morin. Il estime qu’un tel soutien logiciel peut aider de nouveaux fabricants de puces IA, dont plusieurs européens, citant Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud et VSORA, et insiste sur le fait que l’objectif est de travailler avec eux sur « des choses qui n’ont jamais été faites ailleurs dans le monde ». Morin précise ne pas être pessimiste sur Nvidia, notamment en raison de son offre existante, et assure que ZML entretient une bonne relation avec le géant des puces IA. Il décrit l’inférence comme un domaine d’investissement si intense que la tendance a été qualifiée de « ruée vers l’or de l’inférence », avec des concurrents comme Baseten, récemment valorisé 13 milliards de dollars, Inferact, issu du projet open source vLLM, et RadixArk, société commerciale derrière SGLang. Morin affirme que ZML a atteint le point où l’entreprise « co-conçoit du silicium » et attribue la vitesse d’exécution de la startup parisienne à une équipe resserrée de 20 personnes, avec d’autres lancements prévus. Fort de son expérience de VP engineering chez Zenly, rachetée par Snapchat pour un montant à neuf chiffres en 2017, Morin a levé 20 millions de dollars auprès des fonds de capital-risque 20VC de Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures de Xavier Niel, Kindred Capital, LocalGlobe et Puzzle Ventures. Contrairement au premier projet public de ZML, un framework de ML centré sur l’inférence publié en 2024 et mis à jour en mars, ZML/LLMD n’est pas open source. Le produit est toutefois lancé gratuitement, avec pour objectif d’apprendre de ses usages : « Je préfère mesurer et [puis générer des revenus] là où c’est le plus efficace, sans entraver stupidement ma croissance parce que j’ai été trop gourmand dès le départ », explique Morin. Le tour de table de ZML compte aussi des fondateurs comme Solomon Hykes (Dagger et Docker), Clément Delangue et Julien Chaumond (Hugging Face), ainsi que Yann LeCun, désormais chez AMI Labs, ce qui renforce l’idée que les startups IA européennes peuvent désormais se construire depuis leur base locale. « Je ne pouvais pas faire ZML ailleurs qu’à Paris », conclut Morin.

Pourquoi c’est important

En lançant ZML/LLMD comme produit gratuit, non open source mais destiné à être testé en conditions réelles, ZML se positionne au cœur d’un enjeu stratégique : l’optimisation de l’inférence sur un paysage matériel fragmenté. En permettant à des modèles de langage open source de tourner à pleine vitesse sur des puces variées, voire plus rapidement, tout en réduisant potentiellement les coûts ou la consommation énergétique, la startup tente de briser le verrouillage lié aux fournisseurs et de redonner aux entreprises la maîtrise de leur architecture IA. Cette approche pourrait accélérer la diffusion de l’IA en offrant une flexibilité accrue aux clouds et aux grands utilisateurs, tout en soutenant l’émergence de nouveaux fabricants de puces, notamment européens, cités par Steeve Morin. Dans un contexte de « ruée vers l’or de l’inférence », où des acteurs comme Baseten, Inferact et RadixArk se disputent le marché, l’alliance d’un financement de 20 millions de dollars, d’un réseau de fondateurs influents et du soutien de Yann LeCun donne à ZML des atouts pour peser dans l’infrastructure IA construite depuis Paris.

Questions fréquentes

Qu’est-ce que ZML/LLMD ?

ZML/LLMD est un serveur d’inférence pour grands modèles de langage open source, conçu pour les faire tourner efficacement sur diverses puces IA.[3]

Quelles puces sont compatibles avec ZML/LLMD ?

ZML/LLMD prend en charge Nvidia, AMD, les TPU de Google, Apple Metal et Intel Arc pour exécuter des modèles de langage.[3]

ZML/LLMD est-il open source ?

Non, contrairement au premier framework de ML de ZML publié en 2024, ZML/LLMD n’est pas open source.[3]

Le produit ZML/LLMD est-il payant ?

ZML/LLMD est lancé comme produit gratuit afin de permettre à l’entreprise d’apprendre des usages avant de monétiser.[3]

Combien ZML a-t-elle levé et auprès de qui ?

ZML a levé 20 millions de dollars auprès de fonds comme 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe et Puzzle Ventures.[3]

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.