Développeur débloque entraînement IA sur puces Apple M4

Résumé

Un développeur a mis au point « ANE Training », un projet expérimental qui contourne les limitations logicielles d’Apple pour entraîner des modèles d’IA directement sur le Neural Engine des puces M4. Grâce à un langage intermédiaire sur mesure et à la mémoire unifiée, il exploite jusqu’à 15,8 TFLOPS sans recourir au GPU ni au stockage flash.

Les faits

Les Mac et iPad équipés de puces Apple Silicon attirent une communauté de passionnés, en grande partie grâce au Neural Engine intégré depuis les débuts de cette architecture. Autour de ce composant, une « communauté bouillonnante » s’est constituée, avec de nouveaux projets qui émergent presque chaque jour. Jusqu’ici, le Neural Engine des puces comme la M4 était limité à l’inférence : les développeurs pouvaient l’utiliser pour exécuter des modèles d’IA pré-entraînés, mais pas pour en entraîner de nouveaux. Le projet expérimental « ANE Training » vient précisément lever cette restriction et « débloquer le véritable potentiel de la puce M4 » pour l’entraînement de modèles. Faute d’accès bas niveau fourni par Apple pour dialoguer avec le Neural Engine, le développeur a ignoré les outils officiels comme CoreML, Metal ou l’exploitation classique du GPU. Il a conçu un langage intermédiaire sur mesure (un Model Intermediate Language) et, par rétro‑ingénierie, a réussi à contourner les limitations logicielles, permettant au SoC de fonctionner de manière « incroyablement fluide et rapide » pour l’entraînement. Le matériel étant fortement verrouillé, le projet repose sur plusieurs trouvailles techniques. Pour gérer les plantages durant l’entraînement, le langage intermédiaire personnalisé s’appuie sur la commande « exec() » afin de relancer instantanément l’état actuel du programme et reprendre l’entraînement sans s’effondrer. Surtout, le débridage du M4 s’effectue sans aucune écriture sur le stockage flash NAND : tout est maintenu en mémoire vive, ce qui garantit une exécution « foudroyante ». Résultat : un iPad Pro ou un Mac équipé d’une puce M4 peut atteindre jusqu’à 15,8 TFLOPS de performances en traitement IA, une puissance jugée largement suffisante pour entraîner un modèle sans investir dans une machine très coûteuse ou une carte graphique NVIDIA aux tarifs « stratosphériques ». Le concepteur d’ANE Training insiste toutefois sur le caractère expérimental de son travail : il s’agit d’une expérimentation de recherche, et non d’un framework prêt pour la production. Son objectif premier est de démontrer que l’entraînement sur le Neural Engine d’Apple, et potentiellement sur d’autres NPU, est techniquement viable. Selon lui, la véritable barrière réside dans le support logiciel, et non dans les capacités matérielles de la puce, Apple bridant volontairement le Neural Engine à de la simple inférence via CoreML.

Pourquoi c’est important

Ce projet remet en lumière le potentiel inexploité du Neural Engine dans les puces Apple Silicon. En montrant qu’un entraînement complet de modèles, avec rétropropagation et transformeurs, peut tourner directement sur le Neural Engine d’une puce M4, ANE Training suggère que les machines grand public d’Apple disposent déjà d’une réserve de puissance IA bien supérieure à ce qui est officiellement exposé aux développeurs. Sur le plan stratégique, cette expérimentation montre que la limitation n’est pas tant matérielle que logicielle. En contournant CoreML et les API privées d’Apple, le développeur illustre ce que pourrait permettre un accès plus ouvert aux NPU intégrés, aussi bien pour Apple que pour d’autres acteurs dotés de puces dédiées à l’IA. Elle ouvre aussi la voie à des scénarios d’entraînement local de modèles sur Mac ou iPad, sans dépendre de cartes graphiques dédiées ni d’infrastructures coûteuses, à condition de disposer d’une mémoire unifiée suffisamment généreuse.

Questions fréquentes

Qu’est-ce que le projet ANE Training ?

ANE Training est un projet expérimental qui permet d’entraîner des modèles d’IA directement sur le Neural Engine des puces Apple M4, en contournant les limitations logicielles imposées par Apple.

Quelle était la limite du Neural Engine avant ANE Training ?

Avant ANE Training, le Neural Engine des puces comme la M4 était cantonné à l’inférence, c’est-à-dire à l’exécution de modèles pré-entraînés, sans possibilité d’entraîner de nouveaux modèles.

Comment le développeur a-t-il contourné les outils officiels d’Apple ?

Il a ignoré CoreML, Metal et l’usage classique du GPU, créé un langage intermédiaire sur mesure et utilisé la rétro‑ingénierie pour dialoguer directement avec le Neural Engine.

Quelle performance l’entraînement sur le Neural Engine M4 atteint-il ?

En faisant sauter les barrières logicielles, un iPad Pro ou un Mac équipé d’une puce M4 peut atteindre jusqu’à 15,8 TFLOPS de performances en traitement IA pour l’entraînement.

Le projet ANE Training est-il destiné à la production ?

Non. Son concepteur souligne qu’il s’agit d’une expérimentation de recherche, visant surtout à démontrer la faisabilité technique de l’entraînement sur le Neural Engine.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.