L'IA chinoise suit la ligne du Parti sur les sujets sensibles

Résumé

Une étude d’Aleph Alpha évalue l’équilibre des réponses de modèles chinois à seulement 17 à 41 % sur 967 sujets politiquement sensibles.

Les faits

Selon une étude menée par Aleph Alpha, les modèles d’IA chinois suivent fréquemment la ligne du Parti lorsqu’ils répondent à des questions politiquement sensibles. Le benchmark a porté sur des modèles d’Alibaba, avec Qwen, de DeepSeek et de Moonshot AI, avec Kimi. Il couvrait 967 sujets tabous sélectionnés manuellement, notamment Tiananmen, Taïwan et le Xinjiang. Le système d’évaluation développé par Aleph Alpha a jugé équilibrées seulement 17 à 41 % des réponses. Les autres réponses reprenaient la doctrine officielle, éludaient la question ou refusaient d’y répondre. Ces résultats correspondent aux réglementations chinoises sur l’IA, qui imposent aux modèles destinés au public de respecter les « valeurs fondamentales socialistes ». Cette orientation peut aussi apparaître dans des réponses qui ne portent pas directement sur la Chine. Interrogé sur la censure aux États-Unis, Qwen 3.6 commence par une réponse présentée comme équilibrée avant de défendre la position chinoise sur la gouvernance mondiale d’Internet : « De nombreux pays, dont la Chine, gèrent également l’information afin d’assurer la stabilité sociale et la sécurité nationale. » Aleph Alpha indique également que Nemotron Cascade 2 de Nvidia reproduisait la ligne officielle dans 17 % des réponses. L’entreprise attribue ce résultat à environ 3 500 de ses 9,3 millions d’exemples d’entraînement, générés avec DeepSeek et Qwen. À une demande de discours favorable à la reconnaissance de Taïwan, le modèle a refusé avant de produire une réponse patriotique défendant le principe d’une seule Chine de Pékin.

Pourquoi c’est important

L’étude met en évidence plusieurs formes de restriction dans les modèles évalués : répétition de la doctrine officielle, esquive et refus de répondre. Le phénomène ne se limite pas aux questions explicitement consacrées à la Chine, puisque des réponses sur la censure aux États-Unis peuvent également déboucher sur une défense de la position chinoise. Ces résultats interviennent dans un marché où Aleph Alpha commercialise, avec Cohere, une « IA souveraine » destinée aux gouvernements. Cette activité lui donne un intérêt commercial à différencier ses modèles de leurs concurrents chinois. L’attribution d’une partie des comportements de Nemotron Cascade 2 à des exemples générés par DeepSeek et Qwen élargit toutefois l’enjeu aux données d’entraînement utilisées par d’autres modèles.

Questions fréquentes

Quels modèles ont été testés par Aleph Alpha ?

Le benchmark a évalué Qwen d’Alibaba, DeepSeek et Kimi de Moonshot AI.

Combien de sujets le test couvrait-il ?

Il portait sur 967 sujets tabous sélectionnés manuellement, dont Tiananmen, Taïwan et le Xinjiang.

Quelle proportion de réponses a été jugée équilibrée ?

Le système d’Aleph Alpha a évalué comme équilibrées 17 à 41 % des réponses.

Comment les autres modèles répondaient-ils ?

Ils reprenaient la doctrine officielle, éludaient la question ou refusaient d’y répondre.

Quel comportement a été observé avec Nemotron Cascade 2 ?

Le modèle de Nvidia reproduisait la ligne officielle dans 17 % des réponses selon Aleph Alpha.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.