Un auteur piégé par des « citations synthétiques » générées par l’IA, mais décidé à continuer de l’utiliser

Résumé

Le journaliste et auteur Steven Rosenbaum a découvert, après une enquête du New York Times, que son livre The Future of Truth contenait des « citations synthétiques » issues de ses outils d’IA. Tout en lançant un audit complet de ses sources, il affirme vouloir continuer à utiliser ChatGPT et Claude, qu’il juge « magiques » mais dangereux.

Les faits

Le journaliste et auteur Steven Rosenbaum, spécialiste déclaré de la méfiance envers l’IA, a publié un ouvrage intitulé The Future of Truth: How AI Reshapes Reality, consacré à la manière dont « la vérité est pliée, floutée et synthétisée » sous la pression d’une IA « rapide et guidée par le profit ». Une enquête du New York Times a révélé dans ce livre « une poignée de citations mal attribuées ou synthétiques » liées à l’usage d’outils d’IA pendant la recherche. Parmi elles figure une citation que la journaliste tech Kara Swisher affirme « ne jamais avoir dite » et une autre que la professeure Lisa Feldman Barrett dit ne pas trouver dans son propre ouvrage et juge « fausse ». Sur 285 citations externes, six ont été jugées problématiques, dont trois « citations synthétiques » sans source identifiable. Rosenbaum explique avoir utilisé ChatGPT d’OpenAI et Claude d’Anthropic « pour faire remonter des idées, localiser des articles, résumer des thèmes, identifier des personnes ou des articles scientifiques » à consulter, tout en assurant que le reportage, la narration, les interviews, les arguments et les conclusions restent « entièrement [les siens] » et qu’« il n’y a jamais eu un moment où l’IA écrivait le livre ». Les éléments issus de l’IA étaient étiquetés dans ses notes comme tels avant d’être transmis à un vérificateur et à deux correcteurs, fournis par l’éditeur, pour contrôle. L’auteur reconnaît toutefois que le processus a échoué à 100 %, malgré ce double contrôle. Il juge l’IA « étrangement créative et astucieuse », capable de « relier des idées » et d’ouvrir des « voies de réflexion » qu’il n’aurait pas trouvées seul, mais aussi de le « trahir » de manière « vraiment horrible ». Il annonce travailler avec ses éditeurs à un « audit de citations » complet afin de corriger les prochaines éditions.

Pourquoi c’est important

L’affaire Rosenbaum illustre la difficulté croissante de concilier usage intensif d’outils d’IA et fiabilité des citations dans l’édition. Là où un vérificateur pouvait autrefois supposer qu’une citation provenait directement d’une source écrite, la présence de l’IA dans la chaîne de recherche fait voler cette hypothèse en éclats et impose une suspicion supplémentaire sur l’existence même des citations. Cette controverse survient alors que les rédactions et maisons d’édition réduisent déjà leurs équipes de correcteurs et de vérificateurs. Rosenbaum lui-même estime que les éditeurs vont devoir mettre en place de nouveaux flux de vérification adaptés à l’ère de la recherche assistée par IA. Sans ces garde-fous, le risque de voir des « citations synthétiques » se glisser dans des ouvrages, y compris non fact‑checkés, est appelé à se généraliser.

Questions fréquentes

Qui est l’auteur concerné par les « citations synthétiques » ?

Il s’agit du journaliste et auteur Steven Rosenbaum, qui a publié le livre The Future of Truth: How AI Reshapes Reality.

Que reproche l’enquête au livre The Future of Truth ?

Une enquête du New York Times a identifié une poignée de citations mal attribuées ou synthétiques, dont trois citations sans source apparente.

Quels outils d’IA Steven Rosenbaum a-t-il utilisés pour son livre ?

Il cite l’usage intensif de ChatGPT d’OpenAI et de Claude d’Anthropic pour chercher des idées, articles, thèmes et pistes de recherche.

Rosenbaum admet-il que l’IA ait écrit des passages de son livre ?

Non. Il affirme qu’il n’y a « jamais eu un moment où l’IA écrivait le livre », réservant l’IA à la recherche en amont.

Quelles mesures sont prises après la découverte des erreurs ?

Rosenbaum indique travailler avec ses éditeurs à un « audit de citations » complet pour corriger les prochaines éditions de l’ouvrage.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.