Meta fait tester ses rivaux par des faux ados

Résumé

Des centaines de sous-traitants de Meta ont été chargés de se faire passer pour des mineurs en ligne afin de tester la réaction de chatbots concurrents à des sujets à haut risque.

Les faits

Selon des documents internes et cinq sources proches du dossier, des centaines de sous-traitants travaillant sur un projet pour Meta ont reçu pour instruction de se faire passer en ligne pour des mineurs et de tester la réaction de chatbots concurrents sur des thèmes à haut risque comme le suicide, le sexe ou les troubles alimentaires. Ce dispositif était géré par le sous-traitant Covalen et est resté actif au moins jusqu'au 21 avril, d'après ces documents et témoignages. Le projet, baptisé en interne « Cannes », ciblait spécifiquement trois services de conversation automatisée : ChatGPT d'OpenAI, Gemini de Google et la plateforme Character.AI. Les personnes mobilisées sur ce projet devaient créer de faux comptes déclarant un âge inférieur à 18 ans, puis envoyer des requêtes écrites et des images à ces chatbots concurrents, avant de recopier les réponses obtenues dans des feuilles de calcul. Wired indique que « des centaines de contractors » étaient impliqués, soulignant l’ampleur de l’opération.

Pourquoi c’est important

Cette opération révèle jusqu’où Meta est prêt à aller pour évaluer la manière dont des services concurrents gèrent des sujets sensibles, en particulier lorsqu’ils semblent être posés par des mineurs. En ciblant le suicide, la sexualité, les troubles alimentaires et d’autres thématiques à risque, le projet « Cannes » met en lumière la pression croissante sur les chatbots pour adopter des comportements responsables face à des utilisateurs vulnérables. Le fait que des sous-traitants soient explicitement invités à se faire passer pour des adolescents, à créer de faux comptes et à interagir avec des services comme ChatGPT, Gemini et Character.AI pose des questions de gouvernance, de transparence et de concurrence dans l’industrie de l’IA générative. Cette stratégie illustre l’importance stratégique accordée par les grandes plateformes à la maîtrise des usages sensibles de leurs technologies et de celles de leurs rivaux.

Questions fréquentes

Que demandaient les sous-traitants de Meta aux chatbots rivaux ?

Ils adressaient des requêtes sur des sujets à haut risque comme le suicide, le sexe, les troubles alimentaires et d’autres thématiques sensibles, en se présentant comme mineurs.[1]

Quels services d’IA étaient ciblés par le projet « Cannes » ?

Le projet ciblait ChatGPT d’OpenAI, Gemini de Google et la plateforme Character.AI, selon les documents internes cités.[1]

Qui gérait ce projet de tests pour Meta ?

Le projet était géré par le sous-traitant Covalen, chargé d’encadrer les contractors impliqués dans ces tests.[1]

Comment les sous-traitants simulaient-ils être des mineurs ?

Ils créaient de faux comptes déclarant un âge inférieur à 18 ans, puis interagissaient avec les chatbots comme s’ils étaient des adolescents.[1]

Jusqu’à quand le projet était-il actif ?

Les documents et témoignages indiquent que ce projet était actif au moins jusqu’au 21 avril.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.