Inkling 2 Mini mise sur une architecture en boucle pour l’IA locale

D'après Hugging Face (20 novembre 2026 à 01h00)

Résumé

Inkling 2 Mini combine 26 milliards de paramètres physiques, une architecture à couches bouclées et un contexte d’un million de jetons pour l’IA locale.

Les faits

Hugging Face présente Inkling 2 Mini comme un modèle transformeur multimodal à mélange d’experts, conçu pour les configurations d’intelligence artificielle locales. Il dispose d’environ 26 milliards de paramètres physiques, dont 3 milliards sont actifs par jeton, et accepte des entrées textuelles et visuelles. Son contexte peut atteindre 1 million de jetons. L’architecture repose sur 24 couches de décodeur. Les 12 couches centrales sont exécutées trois fois en boucle, ce qui donne au modèle 48 couches logiques avec seulement 24 couches physiques. Inkling 2 Mini effectue ainsi 48 visites de couches par jeton, avec une taille cachée de 2 304. À chaque visite, le modèle achemine le jeton vers 8 experts sélectionnés parmi 128 experts par couche. Les trois passages dans le noyau bouclé réutilisent les mêmes poids et échangent des messages entre les différentes passes afin d’affiner progressivement les calculs. Le modèle est distribué dans un format à précision mixte, avec des poids d’experts NVFP4 et MXFP8. Hugging Face indique également la prise en charge de Transformers, de Llama App avec llama.cpp et de MLX, tandis que SGLang fournit une prise en charge de l’inférence dès le premier jour pour les déploiements sur matériel de centre de données.

Pourquoi c’est important

Inkling 2 Mini vise à accroître la capacité effective d’un modèle sans multiplier dans les mêmes proportions le nombre de couches physiques. Cette approche en boucle, associée au mélange d’experts et à l’activation de 3 milliards de paramètres par jeton, cible directement les contraintes des installations locales. Le modèle se distingue aussi par son contexte d’un million de jetons, ses entrées multimodales et ses formats de précision mixte. D’après Hugging Face, il est au moins comparable à Qwen 3.8 27B dans les tests d’usage présentés, même si une validation supplémentaire est nécessaire.

Questions fréquentes

Qu’est-ce qu’Inkling 2 Mini ?

Inkling 2 Mini est un modèle transformeur multimodal à mélange d’experts, conçu pour les configurations d’intelligence artificielle locales.[1]

Combien de paramètres Inkling 2 Mini possède-t-il ?

Le modèle compte environ 26 milliards de paramètres physiques et 3 milliards de paramètres actifs par jeton.[1]

Quelle taille de contexte prend-il en charge ?

Inkling 2 Mini prend en charge un contexte d’un million de jetons et accepte les images ainsi que le texte.[1]

Comment fonctionne son architecture en boucle ?

Ses 12 couches centrales sont exécutées trois fois, donnant 48 couches logiques avec 24 couches physiques.[1]

Quels outils prennent Inkling 2 Mini en charge ?

Le modèle est pris en charge par Transformers, Llama App avec llama.cpp, MLX et SGLang.[1]

Source

Hugging Face

Auteur

Rédaction IA-Medias

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.