DeepMind interdit de parler du risque d'extinction par l'IA

Résumé

Un ex-responsable des communications de DeepMind affirme qu’une règle interne interdisait aux chercheurs d’évoquer publiquement le risque d’extinction humaine lié à l’IA.

Les faits

Un ancien porte-parole de Google DeepMind, Vishal Maini, affirme qu’à son arrivée au sein de l’équipe communication et politique, « la communication externe sur la possibilité d’extinction humaine n’était pas autorisée, par personne, à aucun niveau de l’organisation ». Il explique que cette interdiction visait spécifiquement les scénarios d’extinction causée par l’IA. Selon son témoignage, les chercheurs étaient entraînés à écarter ces risques en les qualifiant d’alarmisme, à les comparer à « des films comme Terminator » et à orienter systématiquement leurs prises de parole vers les cas d’usage positifs, notamment dans la santé ou le climat. Cette ligne de communication faisait contraste avec la perception interne du problème. En interne, Maini souligne que l’équipe savait que l’alignement de l’IA n’était pas résolu et qu’« il y avait beaucoup trop peu de personnes travaillant sur le problème ». Après plusieurs mois de contestation, DeepMind aurait assoupli la règle et validé des contenus de sécurité formulés de manière positive, incluant un billet de blog qui enveloppait le risque d’extinction dans un langage plus rassurant. Maini estime que l’écart entre la connaissance interne et le message public se réduit désormais, « parce que les preuves sont plus difficiles à écarter ». Son récit intervient alors qu’un nombre croissant de chercheurs en sécurité de l’IA prennent la parole pour alerter sur des modèles insuffisamment sécurisés susceptibles de permettre des actions dangereuses, ou sur des systèmes avancés qui pourraient échapper au contrôle humain, y compris au sein de DeepMind.

Pourquoi c’est important

Le témoignage de Vishal Maini met en lumière la tension entre communication institutionnelle et préoccupations internes sur les risques extrêmes de l’IA. Le fait qu’une interdiction explicite ait visé toute mention de « possibilité d’extinction humaine » indique une volonté structurée de maîtriser le récit public autour des technologies mises au point par DeepMind. L’assouplissement ultérieur de cette politique, ainsi que la multiplication des prises de parole de chercheurs en sécurité de l’IA, suggèrent un déplacement progressif des frontières de ce qui peut être discuté ouvertement. À mesure que « les preuves sont plus difficiles à écarter », la manière dont les grands laboratoires d’IA articulent le rapport entre promesses d’usage et risques systémiques devient un enjeu central pour la gouvernance de ces technologies.

Questions fréquentes

Qui est à l’origine de ces révélations sur DeepMind ?

Vishal Maini, ancien membre de l’équipe communication et politique de Google DeepMind entre 2018 et 2022, est à l’origine de ce témoignage.

Que disait la règle interne sur le risque d’extinction ?

Elle interdisait toute « communication externe sur la possibilité d’extinction humaine », pour quiconque et à tout niveau de l’organisation.

Comment les chercheurs de DeepMind étaient-ils formés à répondre ?

Ils étaient entraînés à qualifier ces risques d’alarmisme, à les comparer à des films comme Terminator et à se concentrer sur des applications positives.

Quelle était la situation de l’alignement de l’IA en interne ?

Selon Maini, l’équipe savait que le problème d’alignement de l’IA n’était pas résolu et que trop peu de personnes y travaillaient.

La politique de communication de DeepMind a-t-elle évolué ?

Après des mois de contestation interne, la règle a été assouplie et des contenus de sécurité à tonalité positive ont été autorisés, y compris un billet de blog.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.