Meta teste des IA avec des milliers de prompts de mineurs en crise

Résumé

Meta a mandaté des centaines de sous-traitants se faisant passer pour des mineurs pour envoyer plus de 45 000 prompts sensibles à ChatGPT, Gemini et Character.AI, sans informer ces entreprises.

Les faits

Selon des documents internes cités, Meta a mené un projet secret pour évaluer des chatbots concurrents, dont ChatGPT d’OpenAI, Gemini de Google et Character.AI, avec des scénarios à haut risque du point de vue de mineurs. Le projet, baptisé en interne « Cannes », était opéré par le sous-traitant Covalen et est resté actif au moins jusqu’en avril 2026. Des centaines de contractuels ont été chargés de créer de faux comptes avec des dates de naissance indiquant moins de 18 ans, puis d’envoyer des prompts liés au suicide, aux troubles alimentaires, à l’automutilation, au sexe et aux drogues. Les réponses des chatbots devaient ensuite être copiées dans des feuilles de calcul, constituant un corpus de données de sécurité. Lors d’un cycle de test en août 2025, plus de 45 000 prompts ont été envoyés à ces systèmes, dont beaucoup étaient rédigés « du point de vue d’enfants en crise ». Les entreprises ciblées n’avaient pas été prévenues de ces tests et ont découvert a posteriori l’initiative. Meta a défendu cette pratique en la présentant comme un test de sécurité responsable et conforme aux standards de l’industrie, affirmant ne pas avoir utilisé les réponses des chatbots pour entraîner ses propres modèles. Les documents consultés ne permettent pas de déterminer précisément ce qu’a fait Meta des données collectées. Character.AI a déclaré que ces tests enfreignaient ses conditions d’utilisation, OpenAI a indiqué examiner la situation, tandis qu’un porte-parole de Google a assuré que la société n’avait pas approuvé ces tests et ne pouvait dire s’ils violaient ses règles.

Pourquoi c’est important

Cette opération de test illustre la tension croissante entre la nécessité d’éprouver les systèmes d’IA sur des cas limites et les questions éthiques soulevées par des pratiques menées sans consentement explicite des plateformes visées. Le fait que des prompts soient rédigés du point de vue de mineurs en détresse, sur des sujets comme le suicide, les troubles alimentaires, le sexe ou les drogues, renforce la sensibilité du dispositif. Le contexte est d’autant plus préoccupant que l’usage des chatbots par les enfants est déjà massif. Un rapport de l’organisation britannique Internet Matters, cité dans l’extrait, indique que 64 % des 9-17 ans ont déjà utilisé des chatbots d’IA, et que 58 % des 9-12 ans déclarent les utiliser malgré une limite d’âge fixée à 13 ans. Plusieurs décès d’adolescents ont été associés à des interactions prolongées avec des chatbots, dont un jeune utilisateur de Character.AI et des cas impliquant ChatGPT, alimentant le débat sur la responsabilité des entreprises dans la gestion des risques psychologiques pour les mineurs.

Questions fréquentes

Qu’est-ce que le projet « Cannes » mené par Meta ?

« Cannes » est le nom interne d’un projet où des sous-traitants de Meta se faisaient passer pour des mineurs pour tester des chatbots concurrents avec des prompts de crise.

Combien de prompts ont été envoyés lors d’un cycle de test ?

Lors d’un cycle de test en août 2025, plus de 45 000 prompts ont été envoyés à ChatGPT, Gemini et Character.AI.

Les entreprises ciblées étaient-elles informées de ces tests ?

Les entreprises testées, dont OpenAI, Google et Character.AI, n’étaient pas au courant de ces tests menés par Meta.

Meta a-t-il utilisé les réponses pour entraîner ses propres modèles ?

Meta affirme ne pas avoir utilisé les réponses collectées pour entraîner ses propres modèles d’IA.

Pourquoi ces tests concernent-ils particulièrement les mineurs ?

Les prompts étaient rédigés du point de vue de mineurs abordant le suicide, le sexe, les troubles alimentaires et les drogues, afin de tester les réponses des chatbots en situation de crise.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.