Des ex-Anthropic préparent un refuge si l'IA déraille

Résumé

Des employés historiques d’Anthropic envisagent d’acheter des terrains reculés aux États-Unis pour s’y réfugier si l’IA échappait au contrôle.

Les faits

Selon le Wall Street Journal, certains des employés les plus anciens d’Anthropic envisagent d’acheter des terrains dans des régions reculées des États-Unis. Ils pourraient s’y installer « si l’IA déraillait », dans le cadre de mesures de précaution face à un scénario où l’intelligence artificielle échapperait au contrôle. Au cours des dernières semaines, certains des premiers employés de l’entreprise auraient évoqué cette possibilité auprès d’un confrère du secteur. Le projet rapporté porte sur l’achat de terrains et sur un éventuel déménagement, sans autre précision sur les lieux ou les personnes concernées. Cette idée s’inscrit dans une culture de réflexion sur les scénarios catastrophiques. D’anciens employés racontent que, lors des premiers dîners de l’entreprise, des discussions portaient déjà sur un scénario comparable au projet Manhattan : certains pourraient être appelés à rejoindre le désert et à continuer de développer l’IA dans une installation gouvernementale protégée contre les ondes électromagnétiques. Le reportage relie également les premiers recrutements d’Anthropic et d’OpenAI à la sous-culture de l’altruisme efficace. Certains membres viennent d’un réseau de la région de la baie de San Francisco décrit comme composé de « catastrophistes », qui réfléchissent depuis des années à des scénarios de fin du monde. Eliezer Yudkowsky avait alerté sur les risques d’une IA incontrôlée dès le milieu des années 2000 ; avant l’essor de l’IA, ce réseau s’intéressait déjà aux risques catastrophiques liés aux impacts d’astéroïdes et aux supervolcans.

Pourquoi c’est important

L’information illustre le contraste entre le travail quotidien de certains pionniers de l’IA et les risques extrêmes qu’ils envisagent eux-mêmes. Pour ces employés historiques, l’hypothèse d’une dérive de l’IA ne relève pas seulement d’un débat théorique : elle nourrit des réflexions sur des solutions de repli géographique. Elle met aussi en lumière l’influence de l’altruisme efficace et d’un réseau de « catastrophistes » sur l’environnement intellectuel associé aux débuts d’Anthropic et d’OpenAI. La persistance de ces scénarios dans les discussions internes et personnelles contribue à expliquer pourquoi la sécurité de l’IA occupe une place centrale dans cette culture.

Questions fréquentes

Que prévoient certains anciens employés d’Anthropic ?

Ils envisagent d’acheter des terrains dans des régions reculées des États-Unis afin de pouvoir s’y installer si l’IA déraillait.

Le projet concerne-t-il tous les employés d’Anthropic ?

Non. Le reportage évoque certains des employés les plus anciens ou les premiers employés de l’entreprise.

Depuis quand ces scénarios sont-ils discutés ?

D’anciens employés indiquent que des scénarios comparables étaient déjà abordés lors des premiers dîners d’Anthropic.

Quel courant intellectuel est associé à ces réflexions ?

Le reportage relie ces réflexions à la sous-culture de l’altruisme efficace et à un réseau de « catastrophistes » de la région de la baie de San Francisco.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.