Sur arXiv, les chatbots ne se contentent plus d'halluciner

Résumé

Dans un article soumis à arXiv, Joel Krueger et Lucy Osler soutiennent que les chatbots génératifs comme ChatGPT et Gemini ne font pas seulement des erreurs factuelles : ils peuvent aussi produire du « gossip ». Les auteurs décrivent aussi des « technosocial harms » liés à ce phénomène.

Les faits

L’article s’intitule « AI Gossip » et il est signé par Joel Krueger et Lucy Osler sur arXiv, dans la catégorie Computers and Society (cs.CY). La page d’abstract indique une soumission le 11 août 2025, avec un identifiant arXiv:2508.08143. Les auteurs partent d’un constat précis : les chatbots génératifs comme ChatGPT et Gemini « routinely make things up » et « hallucinate » des événements historiques, des figures, des affaires juridiques, des articles scientifiques, des produits et fonctionnalités techniques inexistants, des biographies et des articles de presse. Ils rappellent aussi qu’une partie du débat récent consiste à soutenir que ces hallucinations relèvent mieux du « bullshit » que de la simple erreur. L’argument central du papier est que ces systèmes ne se contentent pas de produire des textes faux : ils peuvent aussi « gossip ». Les auteurs écrivent qu’après des définitions et une mise en contexte, ils examinent un exemple récent pour clarifier ce que recouvre ce « AI gossip ». Ils disent enfin vouloir analyser des dommages distincts, qu’ils appellent « technosocial harms », qui découleraient de ce phénomène.

Pourquoi c’est important

Ce papier compte parce qu’il déplace le débat sur les défaillances des modèles génératifs. Au lieu de n’y voir que des hallucinations factuelles, les auteurs proposent une catégorie supplémentaire — le « gossip » — qui suggère que certains contenus produits par l’IA peuvent affecter les relations sociales, la réputation et la circulation d’informations entre personnes. Cette grille de lecture est importante pour les éditeurs de modèles, les chercheurs et les utilisateurs, car elle élargit le champ des risques à des effets sociaux et non seulement informationnels. En nommant ces effets « technosocial harms », les auteurs posent une question plus large : comment évaluer des systèmes qui ne se trompent pas seulement sur les faits, mais peuvent aussi générer des récits socialement nuisibles ?

Questions fréquentes

Quel est le sujet de « AI Gossip » ?

L’article soutient que des chatbots génératifs peuvent produire du « gossip », au-delà de simples hallucinations factuelles.[1]

Quels systèmes sont cités ?

Les auteurs citent OpenAI’s ChatGPT et Google’s Gemini.[1]

Quel type de risques les auteurs mettent-ils en avant ?

Ils évoquent des « technosocial harms », c’est-à-dire des dommages sociaux liés à ce type de contenu.[1]

Quand l’article a-t-il été soumis sur arXiv ?

La page arXiv indique une soumission le 11 août 2025.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.