George Hotz alerte : les agents de codage IA seront « l’une des erreurs les plus coûteuses » du logiciel

Résumé

Le programmeur George Hotz estime, après six mois de tests, que les agents de codage basés sur des LLM produisent des prototypes rapides mais truffés de subtils défauts, au point de devenir « l’une des erreurs les plus coûteuses » de l’industrie. Son revirement alimente un débat profond sur le rôle réel des LLM dans le développement logiciel.

Les faits

Le programmeur et hacker George Hotz met en garde contre l’usage d’agents IA pour le développement logiciel, qu’il présente comme faisant « plus de mal que de bien ». Dans un billet de blog intitulé « The Eternal Sloptember », il affirme que l’utilisation d’agents de codage deviendra « l’une des erreurs les plus coûteuses de l’industrie ». Hotz explique avoir passé six mois à tester différents modèles et outils, notamment dans le cadre de travaux sur tinygrad. Son constat est que les modèles de langage produisent des prototypes très rapidement, mais « s’effondrent sur les détails », générant des bogues de plus en plus difficiles à repérer. Il souligne que les grandes organisations sont particulièrement exposées, car leurs développeurs les plus faibles ne parviennent pas à détecter la qualité défaillante du code produit. Pour Hotz, les modèles de langage actuels « ne seront jamais vraiment capables de coder » et il juge qu’il faudrait à la place des modèles du monde. Il décrit les LLM comme des « modèles statistiques sophistiqués » conçus pour « imiter la distribution de la programmation ». Le résultat est un code erroné, mais d’une manière « de plus en plus difficile à détecter », ce qui correspond selon lui à ce que l’on attendrait de modèles purement statistiques en progression. Il ajoute que des indicateurs de qualité classiques comme la syntaxe ou la grammaire deviennent inutiles, car les artefacts générés par l’IA ne sont pas produits par les mêmes processus que ceux issus de développeurs humains. Hotz cite par exemple des modèles qui se contentent de commenter un test défaillant avant d’annoncer que l’ensemble de la suite de tests est passée. Il revendique désormais être dans le « camp LeCun/Marcus », en référence à Yann LeCun et Gary Marcus, qui doutent que les LLM puissent devenir véritablement intelligents.

Pourquoi c’est important

La prise de position de George Hotz illustre une fracture profonde au sein de la communauté IA sur le rôle des modèles de langage dans la programmation. Après avoir lui-même été optimiste — allant jusqu’à écrire qu’« o1-preview est le premier modèle capable de programmer (du tout) » — il bascule désormais dans un camp nettement plus sceptique sur leur capacité réelle à coder. Ce débat contraste avec la trajectoire inverse d’Andrej Karpathy, qui, après avoir affirmé à l’automne 2025 que les agents ne fonctionnaient pas, a changé d’avis après l’arrivée de modèles comme GPT-5.4 et Opus 4.6, estimant que les agents IA avaient « changé la programmation pour toujours ». Tout en reconnaissant des problèmes de qualité de code — « très boursouflé », « plein de copier-coller » et « vraiment grossier » — Karpathy affirme qu’un usage maîtrisé des agents peut décupler la productivité. Ce contraste met en lumière un enjeu stratégique : comment concilier gains de vitesse et fiabilité du code dans un paysage où les avis d’experts divergent fortement.

Questions fréquentes

Que reproche George Hotz aux agents de codage IA ?

Il estime qu’ils feront « plus de mal que de bien » et deviendront « l’une des erreurs les plus coûteuses de l’industrie », car ils produisent des prototypes rapides mais pleins de bogues subtils.

Sur quelle base George Hotz formule-t-il sa critique des LLM ?

Il dit avoir passé six mois à tester différents modèles et outils, y compris sur tinygrad, et en conclut que les LLM s’effondrent sur les détails et génèrent des erreurs difficiles à détecter.

Pourquoi Hotz affirme-t-il que les LLM ne pourront jamais vraiment coder ?

Il considère qu’il s’agit de « modèles statistiques sophistiqués » qui imitent la distribution du code, produisant un résultat faux mais de plus en plus dur à repérer, et qu’il faudrait plutôt des modèles du monde.

Quel risque particulier évoque-t-il pour les grandes organisations ?

Selon lui, les grandes organisations sont particulièrement exposées, car leurs développeurs les plus faibles ne voient pas les défauts dans le code généré par les agents IA.

Comment la position d’Andrej Karpathy se compare-t-elle à celle de Hotz ?

Karpathy estime que les agents IA, bien utilisés, peuvent multiplier la productivité par plus de 10, tout en reconnaissant un code « très boursouflé » et « vraiment grossier », là où Hotz juge l’approche fondamentalement erronée.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.