Margaret Atwood dénonce les limites de l'IA générative

Résumé

Lors d’une intervention publique, Margaret Atwood a raconté avoir testé une seule fois le chatbot Claude et en avoir tiré une critique sévère des limites de l’IA.

Les faits

L’autrice de « The Handmaid’s Tale » a expliqué avoir essayé le chatbot Claude une seule fois et en être ressortie peu convaincue, estimant que le système lui avait fourni une réponse erronée. Elle a décrit comment le modèle, nourri par de nombreuses critiques de séries télévisées, avait été induit en erreur par ces textes qui évitent de révéler la fin, illustrant à ses yeux le principe « garbage in, garbage out » appliqué à l’IA. Margaret Atwood a également souligné que Claude n’« avait pas menti » au sens humain du terme, rappelant qu’il s’agit d’un grand modèle de langage agissant à partir de données ingérées plutôt que d’intentions propres. Son intervention insistait sur le fait que ces systèmes ne peuvent être meilleurs que les corpus sur lesquels ils sont entraînés, et qu’ils reflètent les biais, les omissions et les angles morts présents dans ces sources.

Pourquoi c’est important

La critique de Margaret Atwood met en lumière un problème central de l’IA générative : la dépendance totale des modèles à la qualité, à l’exhaustivité et aux biais des données d’entraînement. Son anecdote avec Claude illustre concrètement la manière dont des corpus incomplets ou orientés peuvent produire des réponses fausses mais formulées avec assurance. En rappelant que les grands modèles de langage n’ont ni conscience ni intention, Atwood déplace le débat vers la responsabilité humaine dans le choix, la vérification et l’utilisation des systèmes d’IA. Son témoignage, venant d’une figure majeure de la littérature, nourrit la réflexion sur la place de ces outils dans la culture et sur la nécessité de les encadrer par une vigilance critique.

Questions fréquentes

Quel chatbot Margaret Atwood dit avoir testé ?

Elle indique avoir essayé le chatbot Claude une seule fois.

Quel problème clé Atwood relève à propos de l’IA ?

Elle souligne le principe « garbage in, garbage out » appliqué aux données d’entraînement.

Pourquoi la réponse de Claude l’a déçue ?

Le chatbot lui a donné une réponse erronée, fondée sur des critiques de séries qui ne révèlent pas la fin.

Atwood considère-t-elle que Claude a « menti » ?

Elle rappelle qu’il ne s’agit pas d’un humain, mais d’un grand modèle de langage sans intention propre.

Que dit-elle sur la qualité des modèles de langage ?

Elle insiste sur le fait qu’ils ne peuvent être meilleurs que les données sur lesquelles ils sont entraînés.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.