Meredith Whittaker alerte les utilisateurs sur les chatbots IA

Résumé

La présidente de Signal Meredith Whittaker avertit que les chatbots d’IA ne sont ni des amis ni des consciences, et voit dans certains usages une forme de porte dérobée.

Les faits

Interrogée sur les implications en matière de vie privée de chatbots comme ChatGPT ou Claude, la présidente de Signal Meredith Whittaker martèle : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs doués de sensibilité. » Elle insiste ainsi sur la nécessité de ne pas anthropomorphiser ces systèmes, malgré leur apparente convivialité. Ces propos s’inscrivent dans une interview plus large accordée à Bloomberg sur la politique, la confidentialité et Signal. Whittaker reconnaît utiliser des outils d’IA « pour mettre en forme un document ici ou là », mais ajoute : « Je ne leur pose pas de questions. Je prends très au sérieux ma réflexion et mon écriture, et je ne veux pas que le processus d’élaboration d’une idée […] soit fermé ou éclipsé par la réponse d’un système qui fait une moyenne de ce qui existe déjà. » Elle réagit aussi à la prédiction du CEO de Microsoft AI Mustafa Suleyman, selon laquelle les utilisateurs pourraient laisser Microsoft Copilot gérer tous leurs achats de Noël cette année. Dans le scénario évoqué, Copilot écoute les conversations du groupe familial pour déterminer qui veut quoi, ce qui impliquerait, selon elle, de lui donner « accès à ma carte de crédit, à mon navigateur, à mon Signal, la capacité de envoyer des messages à mes frères et sœurs en mon nom, mon adresse personnelle [et] mon agenda ». Whittaker résume le problème de façon tranchante : « Ce que vous venez de décrire est un système avec un accès très invasif à de multiples applications et services. Dans le contexte de Signal, cela constituerait une sorte de porte dérobée. » Elle alerte ainsi sur le risque que des agents d’IA profondément intégrés aux services et appareils sapent les garanties de confidentialité promises par des outils de messagerie chiffrée.

Pourquoi c’est important

L’intervention de Meredith Whittaker souligne un point de friction majeur entre la promesse de commodité des agents d’IA et les impératifs de protection de la vie privée. En rappelant que les chatbots « ne sont pas des interlocuteurs doués de sensibilité », elle cherche à briser l’illusion d’une relation quasi personnelle avec ces systèmes, qui masque la réalité d’un traitement massif et automatisé de données très sensibles. En qualifiant le scénario d’un Copilot omniprésent de « système avec un accès très invasif » et, dans le cas de Signal, de « porte dérobée », Whittaker met en lumière l’enjeu stratégique pour les messageries chiffrées et plus largement pour tous les services qui se veulent protecteurs des communications privées. L’intégration profonde d’agents d’IA dans les applications et les systèmes d’exploitation pourrait redessiner les frontières de la confidentialité numérique, avec des conséquences directes sur la confiance des utilisateurs et sur les cadres de régulation à venir.

Questions fréquentes

Que dit Meredith Whittaker sur les chatbots d’IA ?

Elle affirme à propos de chatbots comme ChatGPT ou Claude : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs doués de sensibilité. »

Meredith Whittaker utilise-t-elle des outils d’IA ?

Elle indique les utiliser « pour mettre en forme un document ici ou là », mais précise qu’elle ne leur pose pas de questions et protège son processus de réflexion.

Quel problème voit-elle dans le scénario Copilot pour les achats de Noël ?

Elle souligne qu’un tel Copilot aurait accès à sa carte de crédit, son navigateur, son Signal, la capacité d’envoyer des messages en son nom, son adresse et son agenda.

Pourquoi parle-t-elle de porte dérobée dans le contexte de Signal ?

Elle estime que donner à un agent d’IA un accès très invasif à plusieurs services constituerait, pour Signal, « une sorte de porte dérobée ».

Quel est le cœur de son avertissement ?

Elle met en garde contre l’anthropomorphisation des chatbots et contre les risques pour la confidentialité de systèmes d’IA omniprésents et très intrusifs.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.