Tencent lance Hy3, son IA défie les géants avec moins de paramètres

Résumé

Tencent lance Hy3, modèle de langage open source de 295 milliards de paramètres en Mixture-of-Experts, censé rivaliser avec des IA jusqu’à cinq fois plus grandes.

Les faits

Tencent a officiellement lancé son modèle d’IA Hy3, présenté comme un modèle de langage open source reposant sur une architecture Mixture-of-Experts (MoE) dotée de 295 milliards de paramètres au total. Parmi ceux-ci, seuls 21 milliards de paramètres sont activés à un instant donné, complétés par 3,8 milliards de paramètres pour une couche MTP supplémentaire. Selon Tencent, Hy3 serait capable d’égaler les performances de modèles deux à cinq fois plus grands, tout en réduisant nettement les hallucinations. Les tests internes de l’entreprise indiquent que le taux d’hallucinations serait passé de 12,5 % à 5,4 %. Dans une évaluation à l’aveugle impliquant 270 experts, Hy3 aurait obtenu un score de 2,67 sur 4, dépassant le score de 2,51 atteint par le modèle GLM-5.1. Hy3 est conçu pour gérer des contextes pouvant atteindre 256 000 jetons, ce qui le positionne sur le segment des modèles à longue fenêtre de contexte. Tencent diffuse Hy3 sous licence open source Apache 2.0 et met également à disposition une version quantifiée en FP8, destinée à réduire les besoins en calcul et en mémoire. Le modèle est déjà intégré dans plusieurs produits maison de Tencent, notamment WorkBuddy, Yuanbao, WeChat et l’assistant de jeu pour « Path of Exile: Advent ». Hy3 est proposé via les plateformes Hugging Face, ModelScope et GitHub, et un support est prévu pour des services tiers comme OpenRouter et Cline.

Pourquoi c’est important

Avec Hy3, Tencent avance un modèle Mixture-of-Experts de très grande taille qui n’active qu’une fraction de ses paramètres à chaque requête, tout en revendiquant des performances comparables à celles de modèles jusqu’à cinq fois plus volumineux. Ce positionnement illustre la stratégie consistant à combiner efficacité de calcul et montée en gamme des capacités, tout en s’attaquant au problème critique des hallucinations. L’ouverture de Hy3 sous licence Apache 2.0, sa disponibilité sur des plateformes de référence et son intégration directe dans des produits comme WeChat ou des assistants de travail et de jeu signalent l’ambition de Tencent de faire de ce modèle un socle technologique large, à la fois pour son écosystème et pour la communauté open source. Les résultats d’évaluations à l’aveugle et la forte réduction annoncée du taux d’hallucinations renforcent l’enjeu concurrentiel autour des modèles ouverts de nouvelle génération.

Questions fréquentes

Qu’est-ce que Hy3 de Tencent ?

Hy3 est un modèle de langage open source de 295 milliards de paramètres basé sur une architecture Mixture-of-Experts, avec 21 milliards de paramètres actifs à la fois.

Combien de paramètres actifs utilise Hy3 ?

Sur les 295 milliards de paramètres totaux, Hy3 n’active que 21 milliards de paramètres à un instant donné, plus 3,8 milliards pour une couche MTP.

Comment Tencent évalue les performances de Hy3 ?

Tencent affirme que Hy3 égale des modèles deux à cinq fois plus grands et qu’il a obtenu 2,67/4 lors d’une évaluation à l’aveugle, contre 2,51 pour GLM-5.1.

Quel est le taux d’hallucinations annoncé pour Hy3 ?

Les tests internes de Tencent indiquent que le taux d’hallucinations serait réduit de 12,5 % à 5,4 % avec Hy3.

Où Hy3 est-il disponible et dans quels produits est-il intégré ?

Hy3 est disponible sous licence Apache 2.0 sur Hugging Face, ModelScope et GitHub, et déjà intégré à WorkBuddy, Yuanbao, WeChat et l’assistant de jeu pour « Path of Exile: Advent ».

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.