Hugging Face découvre des deepfakes sexuels non consentis

Résumé

Des chercheurs ont testé des modèles d’édition d’images sur Hugging Face et montré qu’ils permettent de générer facilement des deepfakes explicites via 1 000 prompts.

Les faits

Un article de Wired révèle que des chercheurs ont étudié les principaux modèles d’édition d’images disponibles sur la plateforme open source Hugging Face. Selon cette enquête, ces modèles d’édition permettent de « créer facilement des deepfakes explicites », en manipulant des photos d’individus pour en produire des versions sexualisées sans leur consentement. Les chercheurs mentionnent un corpus de « 1 000 prompts d’édition d’images » qui illustre concrètement la manière dont les utilisateurs exploitent ces modèles pour générer ce type de contenus. L’article présente ce phénomène comme un « problème de deepfakes de nus » pour Hugging Face, en lien avec les enjeux plus larges de sécurité, de vie privée et d’éthique autour des outils d’intelligence artificielle générative.

Pourquoi c’est important

Cette enquête met en lumière les risques éthiques majeurs posés par les modèles d’édition d’images accessibles en ligne, lorsqu’ils peuvent être utilisés pour produire des deepfakes sexuels visant des personnes réelles sans qu’elles en aient connaissance ni donné leur accord. Le fait qu’un corpus de 1 000 prompts montre comment ces outils sont utilisés souligne l’ampleur et la banalisation potentielle de ces pratiques, et pose directement la question des responsabilités des plateformes comme Hugging Face dans la gouvernance, la modération et la sécurisation de leurs modèles.

Questions fréquentes

Que révèle l’enquête sur Hugging Face ?

Des chercheurs montrent que des modèles d’édition d’images sur Hugging Face permettent de créer facilement des deepfakes sexuels non consentis.

Quel type de modèles sont concernés ?

L’étude porte sur des modèles d’édition d’images proposés sur la plateforme Hugging Face.

Comment les usages ont-ils été analysés ?

Les chercheurs se sont appuyés sur 1 000 prompts d’édition d’images pour observer les usages des modèles.

Quel est le problème principal identifié ?

La facilité de création de deepfakes explicites à partir de photos de personnes, sans consentement.

Pourquoi Wired parle-t-il de « problème de deepfakes de nus » ?

Parce que l’enquête relie ces modèles à la production de contenus explicitement sexualisés visant des individus réels.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.