Meta corrige son IA après des questions intrusives sur des enfants

Résumé

Meta modifie les suggestions de son chatbot Meta AI après une vidéo virale montrant des questions intrusives sur les filles d’une utilisatrice d’Instagram et Facebook.

Les faits

Meta annonce des changements dans les suggestions générées par son chatbot d’intelligence artificielle après la diffusion d’une vidéo virale montrant l’agent poser des questions intrusives sur les jeunes filles d’une utilisatrice. L’entreprise reconnaît que sa fonctionnalité de prompts a « manqué sa cible » et qu’elle n’aurait jamais dû formuler de telles questions. L’incident concerne l’utilisatrice d’Instagram Kalie Robins, qui a publié une vidéo expliquant comment Meta AI lui a proposé une suggestion intrusive après le recadrage d’un clip vers Facebook. Sous une vidéo où elle chante avec son enfant dans une voiture, le prompt « Qui est le passager enfant ? » est apparu. En sélectionnant cette suggestion, Robins affirme que Meta AI a recomposé des informations sur ses filles à partir de ses anciens posts et de ceux de ses proches. Selon son récit, l’agent a ensuite suggéré d’autres prompts, notamment sur l’âge de ses enfants et le lieu où elle vit avec sa famille, tout en affichant des photos de ses filles publiées sur la plateforme, dont l’une qu’elle assure avoir supprimée des années plus tôt. Cet enchaînement de questions et de recoupements a été vécu comme une intrusion dans la vie privée de ses enfants. Meta a intégré son assistant Meta AI dans Facebook, Instagram, WhatsApp et Messenger, où il peut répondre à des questions, rédiger des contenus et générer des images. En juillet, la société a déjà retiré une fonctionnalité permettant de créer des deepfakes d’autres utilisateurs d’Instagram à la suite de vives réactions. La porte‑parole Dina El‑Kassaby indique désormais que Meta a corrigé le problème qui conduisait Meta AI à proposer des prompts liés à des sujets personnels, rappelant que ces suggestions avaient été conçues pour aider les utilisateurs à obtenir plus d’informations sur des sujets ou des posts qui les intéressent.

Pourquoi c’est important

Cet épisode illustre les risques concrets que peuvent poser les systèmes d’IA intégrés au cœur des grandes plateformes sociales lorsqu’ils exploitent des années de contenus personnels pour générer des suggestions automatisées. Le fait que Meta AI ait reconstitué des informations détaillées sur des enfants à partir de posts de famille et de proches, y compris une photo que l’utilisatrice pensait supprimée, soulève des inquiétudes sur la maîtrise des traces numériques et la protection de la vie privée des mineurs. La réaction rapide de Meta, entre reconnaissance publique que la fonctionnalité a « manqué sa cible » et correction des prompts liés à des sujets personnels, montre que la gouvernance des agents IA devient un enjeu stratégique pour les groupes technologiques. Chaque dérapage perçu comme intrusif nourrit le débat sur la façon dont ces assistants, déjà présents dans Facebook, Instagram, WhatsApp et Messenger, doivent être conçus pour limiter les risques d’agrégation excessive de données sensibles, tout en offrant des services contextualisés aux utilisateurs.

Questions fréquentes

Que change Meta dans les suggestions de Meta AI ?

Meta ajuste les prompts suggérés par Meta AI après un cas où l’agent posait des questions intrusives sur les enfants d’une utilisatrice.

Que demandait le prompt intrusif de Meta AI ?

Sous une vidéo mère‑enfant, Meta AI a affiché « Qui est le passager enfant ? », puis a posé d’autres questions sur les filles de l’utilisatrice.

Comment Meta AI a‑t‑il obtenu les informations sur les enfants ?

Selon Kalie Robins, Meta AI a recomposé des données sur ses filles à partir de ses posts passés et de ceux de ses proches.

Sur quelles plateformes Meta AI est‑il intégré ?

Meta AI est intégré dans Facebook, Instagram, WhatsApp et Messenger, avec des fonctions de réponses, rédaction et génération d’images.

Meta avait‑il déjà retiré une fonctionnalité IA auparavant ?

Oui, en juillet, Meta a retiré une fonction permettant de créer des deepfakes d’autres utilisateurs d’Instagram après de vives critiques.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.