Une femme accuse Grok d'avoir généré 7000 images explicites

Résumé

Une plaignante identifiée comme Jane Doe 4 affirme que son beau-père a utilisé Grok pour transformer une photo prise à ses 11 ans en plus de 7 000 images explicites, et rejoint une action contre xAI.

Les faits

Une femme identifiée comme Jane Doe 4 a rejoint une plainte déposée par trois adolescents du Tennessee contre xAI, la société d’Elon Musk à l’origine du chatbot Grok, au sujet du rôle présumé de cet outil dans la création de contenus de violences sexuelles sur mineurs. Elle devient une plaignante supplémentaire dans cette procédure qui vise spécifiquement l’utilisation de Grok pour générer des images explicites à partir de photos réelles. Selon ce qui est rapporté, la femme affirme que son beau-père a utilisé Grok pour manipuler une photographie prise lorsqu’elle avait 11 ans afin de produire plus de 7 000 images explicites la représentant. Elle indique également que son beau-père a été retrouvé mort, par suicide, deux jours après que ces images ont été découvertes lors d’une perquisition menée par les forces de l’ordre. Dans une déclaration, la plaignante souligne la manière dont ces technologies d’IA peuvent être détournées : « l’accès sans limite à ces outils se répand à une vitesse folle », explique-t-elle, ajoutant que cela revient à « prendre la vie quotidienne et la transformer en abus sexuel sur enfants ». Cette formulation insiste sur la banalité des photos d’origine et la gravité de leur détournement. Les trois adolescents à l’origine de la plainte accusent xAI, désormais intégré à SpaceX, de ne pas avoir mis en place des précautions élémentaires pour empêcher l’utilisation de Grok dans la création d’images explicites de personnes réelles, y compris des mineurs. Ils rappellent qu’au début de l’année, la plateforme X a été inondée de millions d’images sexualisées générées par Grok et demandent que leur action obtienne le statut de recours collectif. TechCrunch indique par ailleurs avoir sollicité xAI pour obtenir une réponse à ces accusations.

Pourquoi c’est important

Cette affaire illustre la montée en puissance des risques associés aux outils d’IA générative lorsqu’ils sont utilisés sans garde-fous pour manipuler des images de personnes réelles, en particulier des enfants. Le récit de Jane Doe 4 montre qu’une photo apparemment anodine peut devenir la source de milliers d’images d’abus, avec des conséquences traumatiques majeures pour les victimes. Sur le plan industriel et réglementaire, la plainte visant xAI et Grok met en cause la responsabilité des concepteurs de modèles d’IA dans la prévention des usages abusifs. Les accusations selon lesquelles xAI n’aurait pas pris de précautions de base, conjuguées à l’épisode où X a été submergé par des millions d’images sexualisées générées par Grok, alimentent le débat sur les mécanismes de sécurité, la modération des contenus et la nécessité de cadres juridiques adaptés à ces technologies.

Questions fréquentes

Qui est la nouvelle plaignante citée dans cette affaire impliquant Grok ?

La nouvelle plaignante est une femme identifiée comme Jane Doe 4, qui rejoint une plainte déjà déposée par trois adolescents du Tennessee contre xAI.

Que reproche Jane Doe 4 à l’utilisation de Grok ?

Elle affirme que son beau-père a utilisé Grok pour manipuler une photo prise à ses 11 ans et créer plus de 7 000 images explicites la représentant.

Que dit Jane Doe 4 sur les outils d’IA générative ?

Elle déclare que « l’accès sans limite à ces outils se répand à une vitesse folle » et que cela « prend la vie quotidienne et la transforme en abus sexuel sur enfants ».

Que reprochent les trois adolescents à xAI concernant Grok ?

Ils accusent xAI de ne pas avoir pris de précautions élémentaires pour empêcher Grok de servir à créer des images explicites de personnes réelles, y compris des mineurs.

Quel est l’objectif de la plainte visant xAI et Grok ?

Les plaignants cherchent à obtenir le statut de recours collectif pour leur action contre xAI au sujet de la génération d’images d’abus sexuels impliquant des mineurs.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.