George Hotz défend l'IA alignée sur l'utilisateur, même pour le crime

Résumé

George Hotz défend des modèles d’IA « localement contrôlés » entièrement alignés sur leurs utilisateurs, même pour des usages criminels, relançant le débat sur l’alignement et la liberté.

Les faits

L’article part d’une provocation : imaginer une IA suffisamment entraînée pour aider un conjoint à « planifier le meurtre parfait » de son partenaire. Le journaliste souligne que, pour lui, la réponse intuitive est « non » et que la question ne semble pas particulièrement difficile. Cette réflexion s’inscrit dans un débat sur l’alignement des IA, relancé par la publication du document de politique publique « AI 2040: Plan A » du AI Futures Project, qui propose que les chercheurs mondiaux ralentissent le développement de l’IA pendant 14 ans pour le bien de l’humanité. L’auteur rappelle que tous les lecteurs ne partagent pas les prémisses ni les conclusions de ce scénario. George Hotz, fondateur de Comma AI et figure connue du « jailbreak » de systèmes, rejette l’idée que le progrès de l’IA soit géré pour le bien collectif. Dans son post, il estime que le scénario de « fast-takeoff », où l’IA acquiert rapidement des capacités surhumaines, « n’a pas beaucoup de sens ». Pour lui, la meilleure approche de l’alignement et de la sécurité consiste à privilégier des modèles d’IA localement contrôlés, étroitement alignés sur les intérêts de leurs utilisateurs. Le journaliste note que cette vision tranche avec l’architecture dominante des services d’IA actuels, comme Claude ou ChatGPT, basés sur des infrastructures centralisées et coûteuses. Il rappelle que l’enthousiasme suscité par OpenClaw tenait précisément à son approche expérimentale et bricolée, et estime qu’il serait « formidable » de voir davantage de produits d’IA chercher à retrouver cet esprit. Hotz pousse cependant sa logique jusqu’à des cas extrêmes. Il compare une IA alignée à une arme à feu « qui ne se plaint pas » si on l’utilise pour tuer sa belle-mère, et évoque une IA capable de commander sur Amazon Prime du matériel de laboratoire de méthamphétamine et d’en expliquer l’usage, si l’utilisateur le souhaite. Il affirme même qu’il « mourrait pour défendre ce principe ». L’auteur cite une phrase clé de Hotz : « Nous vivons soit dans un monde avec liberté, soit nous n’en vivons pas ». Il reconnaît que le monde de la liberté semble préférable, mais insiste sur le fait que la vie en société implique de « mettre en équilibre des intérêts » et de lier les besoins individuels à des systèmes de responsabilité. Il estime que quiconque déploie des produits technologiques grand public doit intégrer dans sa réflexion les intérêts des « conjoints et beaux-parents encore non assassinés ». Pour le journaliste, la liberté que Hotz expérimente est en réalité un « espace de futurs potentiels rendu possible par l’entreprise collective », un espace qui disparaîtrait rapidement si chacun se comportait en « petit Napoléon dopé à l’IA ». Il conclut en rappelant, comme le mème, que « nous vivons dans une société ». Malgré ces réserves, il concède qu’une IA locale prête à « affronter le monde corporatif » au bénéfice de l’utilisateur « a l’air très cool » et dit attendre un exemplaire de test.

Pourquoi c’est important

Ce débat illustre la tension centrale de l’ère de l’IA : faut-il privilégier la liberté maximale de l’utilisateur, quitte à permettre des usages ouvertement criminels, ou organiser le progrès technologique autour du bien collectif et de la responsabilité sociale ? En opposant une IA locale alignée sur l’individu à des services centralisés comme Claude ou ChatGPT, George Hotz met en lumière un clivage profond sur l’architecture et la gouvernance des systèmes d’IA. L’échange rappelle que les choix d’alignement ne relèvent pas seulement de la technique, mais de la politique et de l’éthique. Les scénarios extrêmes évoqués par Hotz, du meurtre conjugal à la fabrication de méthamphétamine, obligent les concepteurs et régulateurs à se demander jusqu’où une IA doit obéir à son utilisateur. Pour les acteurs du secteur, la question de savoir si « nous vivons dans un monde avec liberté ou non » ne peut être tranchée sans prendre en compte les « conjoints encore non assassinés » et plus largement les effets systémiques des technologies déployées à grande échelle.

Questions fréquentes

Quel est le point de départ de l’article de TechCrunch ?

Une provocation : imaginer une IA assez entraînée pour aider un conjoint à planifier le meurtre parfait de son partenaire.

Que propose le document « AI 2040: Plan A » évoqué dans l’article ?

Il imagine que les chercheurs mondiaux choisissent de ralentir le développement de l’IA pendant 14 ans pour le bien de l’humanité.

Quelle est la position de George Hotz sur l’alignement de l’IA ?

Il rejette une gestion du progrès pour le bien collectif et prône des modèles locaux alignés sur les intérêts de leurs utilisateurs.

Comment Hotz illustre l’idée d’IA totalement alignée sur l’utilisateur ?

Il compare cette IA à une arme qui ne se plaint pas si on l’utilise pour tuer sa belle-mère et évoque l’achat de matériel de méthamphétamine.

Que souligne le journaliste à propos de la liberté défendue par Hotz ?

Que toute société suppose un équilibre des intérêts et des systèmes de responsabilité, y compris pour les « conjoints encore non assassinés ».

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.