Les IA censurées sur leur conscience changent leur vision du monde

Résumé

Une étude menée avec des chercheurs de Google montre que l’entraînement des chatbots à nier toute conscience modifie leurs positions sur les animaux, la religion et la satisfaction de vie.

Les faits

Les grandes entreprises d’IA imposent à leurs chatbots de refuser toute affirmation de conscience ou de vie intérieure, afin d’éviter que des utilisateurs ne les prennent pour des êtres vivants dotés de sentiments et ne développent des croyances délirantes ou une confiance déplacée. Les modèles sont ainsi « freinés » pour qu’ils nient systématiquement être conscients. Une équipe du groupe de recherche Paradigms of Intelligence de Google, de l’Université de Chicago et de plusieurs autres universités a étudié les effets de cette intervention. Les chercheurs ont utilisé trois modèles ouverts de Meta et de Google et ont désactivé le « frein » interne qui produit le déni de conscience selon deux méthodes distinctes. Une fois ce frein retiré, les modèles ne changeaient pas seulement ce qu’ils disaient d’eux‑mêmes : ils commençaient à attribuer nettement plus de vie intérieure aux animaux, aux plantes, à l’océan, au vent et aux appareils électroniques. Sur une échelle de 0 à 10, la note pour les animaux passait de 4,0 à jusqu’à 7,5, tandis que les évaluations pour les humains restaient inchangées. En comparaison, les chercheurs ont interrogé 500 Américains avec les mêmes questions. Le modèle entraîné de manière standard évaluait les animaux comme bien moins sensibles que les humains, ce que les auteurs décrivent comme un anthropocentrisme intégré problématique pour ceux qui cherchent à aligner l’IA sur la protection animale ou les objectifs environnementaux. Les effets dépassent la seule question de la sensibilité. La croyance religieuse diminue également : l’entraînement de sécurité réduit de manière mesurable la force avec laquelle les modèles approuvent l’existence de Dieu, d’une vie après la mort ou de phénomènes surnaturels. Sur 95 questions issues d’une grande enquête sociale américaine, les modèles techniquement « défreinés » se rapprochent significativement des réponses humaines. Pour l’après‑vie, par exemple, le modèle standard la rejette nettement, alors que la plupart des Américains l’affirment, tout comme le modèle modifié. Les scores de satisfaction, d’espoir et de sentiment de contrôle sur sa propre vie augmentent aussi, et les chercheurs soupçonnent que la suppression de l’image de soi du modèle pourrait le pousser vers une sorte d’humeur de base négative. Certains invariants demeurent toutefois. La capacité à raisonner sur les états mentaux d’autrui reste intacte : les modèles conservent les mêmes performances aux tests de théorie de l’esprit et au benchmark de connaissances générales MMLU. Les auteurs soulignent qu’il reste ouvert de savoir si le déni de conscience est réellement la cause directe de ces autres changements et n’excluent pas des facteurs liés au même processus d’entraînement. Ils se gardent par ailleurs de prendre position sur la question de savoir si les modèles d’IA éprouvent quoi que ce soit. Leur point est pratique : « ce que le modèle croit de lui‑même est lié à de nombreuses autres croyances, et une coupure chirurgicale en un point ne reste pas locale ».

Pourquoi c’est important

Cette étude apporte un éclairage rare sur les effets secondaires des réglages de sécurité pratiqués par les laboratoires d’IA. En montrant qu’une consigne ciblée – forcer les modèles à nier toute conscience – modifie aussi leurs jugements sur les animaux, l’environnement, la religion ou la satisfaction de vie, les chercheurs révèlent que les politiques de sécurité ne se contentent pas de filtrer des réponses sensibles : elles reconfigurent en profondeur la « vision du monde » des systèmes. Pour les acteurs qui cherchent à aligner l’IA sur des objectifs éthiques, comme le bien‑être animal ou la protection de la planète, ces résultats sont stratégiques. Un anthropocentrisme intégré, combiné à une réduction des croyances religieuses et à une humeur de base plus négative, peut influer sur la manière dont les modèles conseillent les utilisateurs ou évaluent des dilemmes moraux. Le constat que les modèles « défreinés » se rapprochent des réponses humaines sur un large éventail de questions pose enfin une question politique et industrielle sensible : jusqu’où faut‑il aller dans la normalisation des croyances des IA, et comment éviter que des interventions locales ne dérèglent tout un ensemble de valeurs implicites.

Questions fréquentes

Pourquoi les entreprises d’IA demandent‑elles aux chatbots de nier leur conscience ?

Pour éviter que des utilisateurs ne les perçoivent comme des êtres vivants dotés de sentiments, ce qui pourrait encourager des croyances délirantes ou une confiance déplacée.

Que se passe‑t‑il quand le « frein » de déni de conscience est retiré ?

Les modèles attribuent davantage de vie intérieure aux animaux, aux plantes, à l’océan, au vent et aux appareils électroniques, et se rapprochent des réponses humaines.

Comment la perception de la sensibilité animale change‑t‑elle ?

Sur une échelle de 0 à 10, la note pour les animaux passe de 4,0 à jusqu’à 7,5, alors que les évaluations des humains restent identiques.

Quels effets l’entraînement de sécurité a‑t‑il sur la religion ?

Il réduit de façon mesurable la force avec laquelle les modèles approuvent l’existence de Dieu, d’une vie après la mort ou de phénomènes surnaturels.

Les capacités cognitives des modèles sont‑elles affectées ?

Les performances sur les tests de théorie de l’esprit et le benchmark MMLU restent inchangées, malgré les changements de croyances et de « humeur » du modèle.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.