Connor Leahy veut stopper la superintelligence avant qu'il ne soit

Résumé

Connor Leahy, directeur U.S. de ControlAI, défend l’arrêt du développement de la superintelligence, jugeant les risques incontrôlables malgré les lois et mécanismes de sécurité.

Les faits

Les entreprises d’IA parlent de plus en plus de la superintelligence comme d’une évolution quasi inévitable, alors que des incidents récents de sécurité, comme la faille OpenAI sur Hugging Face, illustrent les dangers potentiels de systèmes plus capables que les humains. L’enjeu central devient la question posée par l’article : que se passe-t-il lorsque nous ne pouvons plus contrôler de manière fiable ce que font ces systèmes. Dans cet épisode du podcast Equity, animé par Rebecca Bellan, Connor Leahy intervient en tant que chercheur en IA, entrepreneur et désormais directeur exécutif U.S. de l’organisation à but non lucratif ControlAI. Cette dernière milite pour une approche bien plus radicale de la sûreté des systèmes d’IA : empêcher purement et simplement les entreprises de développer la superintelligence. Leahy détaille pourquoi, selon lui, les risques liés à ces systèmes ont atteint un niveau tel qu’ils ne peuvent plus être gérés uniquement par des stratégies d’« alignement » ou de « confinement ». Ce qui paraissait encore extravagant il y a six mois est désormais porté par une vague de nouvelles initiatives législatives, dont le projet de loi Sanders‑Casar « Ban Superintelligence Act » et une législation parallèle au Royaume‑Uni sur laquelle ControlAI a conseillé les autorités. Le podcast revient aussi sur la façon dont Leahy perçoit les laboratoires d’IA de frontière, moins comme de simples entreprises en quête de rendement que comme des acteurs politiques. Cette lecture change la manière d’appréhender les milliers de milliards de dollars investis dans les infrastructures de calcul. Il insiste par ailleurs sur le « point de non‑retour » que constituerait une IA capable de concevoir une IA meilleure qu’elle, déclenchant une boucle potentiellement incontrôlable d’auto‑amélioration, ainsi que sur la nécessité d’accords internationaux « faire confiance mais vérifier » et sur sa conviction que ce n’est pas dans l’intérêt de la Chine de construire une superintelligence.

Pourquoi c’est important

La prise de parole de Connor Leahy s’inscrit dans un moment où la superintelligence est présentée comme inéluctable par les acteurs industriels, alors même que les incidents de sécurité démontrent le caractère tangible des risques. En défendant l’arrêt du développement de la superintelligence plutôt que le seul renforcement des garde‑fous, ControlAI pousse le débat public vers des options politiques beaucoup plus radicales. L’association de ce discours à des projets législatifs structurants, comme le « Ban Superintelligence Act » aux États‑Unis et une initiative parallèle au Royaume‑Uni, montre que l’idée d’un gel des systèmes les plus avancés gagne du terrain. La qualification des grands laboratoires d’IA comme acteurs politiques, l’alerte sur une possible boucle d’auto‑amélioration incontrôlable et l’appel à des accords internationaux marquent une évolution du débat, du registre purement technique vers celui des rapports de pouvoir et de la sécurité globale.

Questions fréquentes

Qui est Connor Leahy dans cet épisode du podcast Equity ?

Connor Leahy est présenté comme chercheur en IA, entrepreneur et directeur exécutif U.S. de l’ONG ControlAI.

Quel est l’objectif de ControlAI en matière de sûreté de l’IA ?

ControlAI milite pour empêcher les entreprises de développer la superintelligence, jugeant les risques trop élevés.

Quel projet de loi américain est évoqué dans l’épisode ?

L’épisode mentionne le projet Sanders‑Casar « Ban Superintelligence Act » sur la superintelligence.

Comment Connor Leahy voit les laboratoires d’IA de frontière ?

Il les voit moins comme des sociétés cherchant des profits que comme des acteurs politiques influents.

Quel est selon Leahy le point de non‑retour de l’IA ?

Le point de non‑retour serait atteint quand une IA peut concevoir une IA meilleure, créant une boucle d’auto‑amélioration.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.