Apple interdit les apps de nudification cachées

Résumé

Apple durcit ses règles de l’App Store contre les applications d’IA qui génèrent du contenu offensant ou dissimulent des fonctions de nudification.

Les faits

Apple a renforcé ses règles destinées aux développeurs afin d’interdire les applications utilisant l’intelligence artificielle pour générer du contenu offensant. La mise à jour vise également les applications qui se présentent comme des outils ordinaires lors de l’examen de l’App Store avant d’activer ensuite des fonctions de nudification. Les nouvelles consignes imposent aux applications hébergeant du contenu généré par les utilisateurs de filtrer les contenus répréhensibles, de permettre le signalement des contenus offensants et de donner aux utilisateurs la possibilité de bloquer les comptes abusifs. Apple interdit aussi les fonctions cachées ou non documentées, notamment lorsqu’une application dissimule sa finalité pendant l’examen puis révèle des capacités dangereuses après son approbation. Apple a précisé qu’elle supprimerait les applications ajoutant des fonctions absentes de la version soumise à l’examen de l’App Store. L’entreprise a également renforcé ses règles juridiques contre les applications faisant la promotion de la traite des êtres humains ou de l’exploitation des enfants. Selon Apple, son processus d’examen a bloqué plus de 150 000 applications avant leur mise à disposition des utilisateurs l’année dernière et supprimé 193 000 comptes de développeurs pour fraude et abus. En juillet, San Francisco avait ordonné à Apple et Google de retirer les applications de nudification de leurs boutiques.

Pourquoi c’est important

Cette évolution cible directement la stratégie dite de « bait-and-switch », qui consiste à présenter une application comme un outil classique pendant l’examen, puis à activer des fonctions de nudification après son approbation. Apple cherche ainsi à rapprocher le comportement observé après publication des éléments contrôlés lors de la validation. Le renforcement des obligations de modération et la menace de suppression élargissent la responsabilité des développeurs au-delà de la seule description de leurs applications. Dans un contexte où San Francisco a déjà demandé à Apple et Google de nettoyer leurs boutiques, ces règles accroissent la pression exercée sur les plateformes pour limiter la diffusion de contenus offensants et liés à l’exploitation.

Questions fréquentes

Que ciblent les nouvelles règles d’Apple ?

Elles ciblent les applications d’IA générant du contenu offensant et celles qui dissimulent des fonctions de nudification pendant l’examen de l’App Store.

Qu’est-ce que la pratique du « bait-and-switch » ?

Il s’agit de présenter une application comme ordinaire pendant l’examen, puis de révéler des capacités nuisibles après son approbation.

Quelles obligations concernent les applications à contenu généré par les utilisateurs ?

Elles doivent filtrer les contenus répréhensibles, permettre leur signalement et offrir un moyen de bloquer les comptes abusifs.

Que fera Apple des applications ajoutant des fonctions après l’examen ?

Apple a indiqué qu’elle supprimerait les applications ajoutant des fonctions absentes de la version soumise à l’examen.

Combien d’applications Apple dit-elle avoir bloquées l’année dernière ?

Apple affirme avoir bloqué plus de 150 000 applications et supprimé 193 000 comptes de développeurs pour fraude et abus.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.