Un chercheur Google démissionne, l'IA trop rapide

Résumé

Robert O’Callahan quitte Google DeepMind, jugeant trop rapide le développement de l’IA et irresponsable de viser une superintelligence à court terme.

Les faits

Robert O’Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, a démissionné en raison de ses inquiétudes face au rythme actuel du développement de l’intelligence artificielle. Il estime que « le rythme actuel du changement est bien trop élevé ». Le chercheur travaillait sur des outils de conception de puces destinés à rendre l’IA moins coûteuse et plus rapide. Il affirme ne plus pouvoir justifier cette contribution au regard des risques qu’il associe à l’accélération du secteur. O’Callahan qualifie le risque lié à une IA superintelligente de « réel mais incertain » et considère que « viser une intelligence artificielle superintelligente dans un avenir proche est intrinsèquement irresponsable ». Il cite également la soumission cognitive, les psychoses et la solitude provoquées par l’IA, la concentration du pouvoir, les bouleversements économiques, les risques de cybersécurité et l’absence de responsabilité. Le chercheur affirme que de nombreux collègues de DeepMind partagent ses inquiétudes, mais s’expriment rarement publiquement. Il souhaite désormais mener un travail « sans ambiguïté au service de l’humain ». Il renvoie à l’ouvrage « Si quelqu’un la construit », d’Eliezer Yudkowsky et Nate Soares, sans reprendre à son compte l’idée selon laquelle une IA superintelligente provoquerait inévitablement une catastrophe.

Pourquoi c’est important

Cette démission met en évidence une tension au sein même de la recherche en IA : les outils auxquels O’Callahan contribuait visaient à accélérer et à réduire le coût du développement, tandis que le chercheur juge désormais cette dynamique trop rapide au regard des risques potentiels. Son témoignage souligne aussi le contraste entre les inquiétudes exprimées publiquement et celles qui resteraient silencieuses au sein de DeepMind. Les risques évoqués couvrent à la fois la société, l’économie, la cybersécurité et la gouvernance, ce qui élargit le débat au-delà de la seule possibilité technique d’une IA superintelligente.

Questions fréquentes

Qui est Robert O’Callahan ?

Robert O’Callahan est un expert technique de Google DeepMind en Nouvelle-Zélande, qui travaillait sur des outils de conception de puces pour l’IA.

Pourquoi a-t-il démissionné ?

Il estime que le rythme actuel du développement de l’IA est trop élevé et qu’il ne peut plus justifier sa contribution à cette accélération.

Que pense-t-il de l’IA superintelligente ?

Il considère le risque comme réel mais incertain et juge intrinsèquement irresponsable de viser une IA superintelligente dans un avenir proche.

Quels risques cite-t-il ?

Il mentionne notamment la soumission cognitive, les psychoses et la solitude liées à l’IA, la concentration du pouvoir, les bouleversements économiques et les risques de cybersécurité.

Quel travail souhaite-t-il désormais mener ?

Il souhaite réaliser un travail « sans ambiguïté au service de l’humain ».

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.