Liquid AI lance des modèles IA ultra-rapides pour la périphérie

Résumé

Liquid AI publie d1-3B et d1-omni-600M, deux modèles ouverts conçus pour prendre rapidement des décisions multimodales directement en périphérie.

Les faits

Liquid AI annonce la publication de deux modèles ouverts de décision de sa famille d1 : d1-3B et d1-omni-600M, ce dernier étant présenté comme expérimental. Les deux modèles sont disponibles sur Hugging Face. Les modèles sont multimodaux. d1-3B accepte le texte et les images, tandis que d1-omni-600M traite le texte et les images ou le texte et l’audio. Ils sont construits à partir des Liquid Foundation Models, ou LFMs. Leur fonctionnement diffère de celui des modèles génératifs : les modèles de décision ne produisent pas de jetons et répondent en un seul passage avant. Selon les résultats publiés, d1-3B répond à une question en 16 millisecondes sur NVIDIA Jetson AGX Thor, 26 millisecondes sur Jetson AGX Orin et 50 millisecondes sur Jetson Orin Nano. Sur chaque appareil mesuré, d1-3B répond à une question en moins de 50 millisecondes. Trois questions nécessitent seulement 1,3 fois le temps d’une question ; sur AGX Thor, le délai passe ainsi de 16 à 20 millisecondes.

Pourquoi c’est important

Ces résultats positionnent les modèles d1 pour des usages où la rapidité et la prise de décision structurée priment, notamment lorsque les données d’entrée combinent texte, images ou audio. Le traitement en un seul passage vise une exécution adaptée aux appareils de périphérie. La publication distingue deux compromis : d1-3B privilégie la qualité de décision à sa taille, tandis que d1-omni-600M vise les environnements où l’empreinte du modèle compte. Leur disponibilité sous forme de poids ouverts facilite leur utilisation sur Hugging Face.

Questions fréquentes

Quels modèles Liquid AI publie-t-il ?

Liquid AI publie d1-3B et d1-omni-600M, un modèle présenté comme expérimental.

Quelles modalités d’entrée d1-3B prend-il en charge ?

d1-3B accepte le texte et les images.

Quelles modalités d’entrée d1-omni-600M prend-il en charge ?

d1-omni-600M accepte le texte et les images, ou le texte et l’audio.

Quel est le temps de réponse de d1-3B sur Jetson AGX Thor ?

d1-3B répond à une question en 16 millisecondes sur NVIDIA Jetson AGX Thor.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.