Afficher le sommaire Masquer le sommaire
Le premier résultat affiché par l’App Store d’Apple sur la requête « nudify » était, lors des tests conduits par le Tech Transparency Project (TTP), un espace publicitaire payant. L’application vers laquelle il renvoyait a généré, en quelques secondes, une vidéo superposant le visage d’une femme habillée sur le corps nu d’une autre.
Le TTP, organisation américaine de surveillance des grandes plateformes, a publié cette semaine les résultats d’une enquête menée sur les deux principaux stores d’applications mobiles. Méthode : saisir les termes nudify, undress et deepnude dans les moteurs de recherche de l’App Store et de Google Play, puis analyser les dix premières applications retournées pour chaque requête. Environ 40 % d’entre elles permettaient de générer des images de femmes nues ou semi-nues à partir d’une simple photographie téléchargée.
Ces applications totalisaient 483 millions de téléchargements et 122 millions de dollars de revenus cumulés, selon les données du cabinet analytique AppMagic. Trente et une d’entre elles étaient classées accessibles aux mineurs.
A LIRE AUSSI
Quelle appli choisir pour gérer son budget ?
Quand Google suggère « sexe forcé »
Sur Google Play, le problème prend une forme différente. Les carrousels « Suggéré pour vous » proposaient des applications dont les modèles prédéfinis s’intitulaient « Enlever les vêtements », « Bikini » ou « Uniforme érotique ». L’une d’elles, Magic AI, affichait parmi ses options un modèle intitulé « sexe forcé ».
Ce ne sont pas des applications dissimulées dans des catalogues obscurs. Elles apparaissent en première page, portées par les systèmes de recommandation des deux plateformes, les mêmes qui orientent chaque jour des centaines de millions d’utilisateurs vers de la musique, des jeux ou des outils de productivité.
Apple interdit dans ses directives les applications « offensantes » ou « explicitement sexuelles ». Google Play prohibe celles qui « dégradent ou objectifient des personnes, y compris celles qui prétendent déshabiller des gens ou voir à travers leurs vêtements ». Ces formulations figurent noir sur blanc dans les conditions publiées par les deux entreprises.
Après un premier rapport du TTP publié en janvier, Apple et Google avaient retiré conjointement plus de vingt-quatre applications. À la suite de ce second rapport, Apple en a supprimé quatorze de plus. Google, sept.
La modération intervient donc après publication d’un rapport externe, pas avant. Aucun des deux groupes n’a fourni d’explication publique sur les raisons pour lesquelles ces applications avaient passé leurs propres filtres de validation.
Des serveurs à Pékin, des visages à Washington
Une part significative de ces applications est développée par des entreprises basées en Chine ou au Vietnam. Le TTP souligne un risque distinct de celui du contenu : les lois chinoises sur la sécurité nationale peuvent contraindre les entreprises du pays à transmettre leurs données aux autorités de Pékin.
Dans le cas de ces applications, les données en question sont des photographies réelles de personnes identifiables, ainsi que leurs versions manipulées. Des images biométriques, produites à la demande d’un utilisateur qui pensait jouer avec un filtre, potentiellement stockées sur des serveurs étrangers.
Apple et Google perçoivent entre 15 % et 30 % des revenus générés par les applications hébergées sur leurs stores, commission standard appliquée à l’ensemble des achats intégrés. Sur 122 millions de dollars de revenus cumulés documentés par AppMagic, une fraction calculable est donc revenue directement aux deux plateformes.
À cela s’ajoute, pour Apple, le revenu publicitaire : les espaces sponsorisés en tête de recherche sont facturés aux développeurs qui souhaitent y figurer. Certains de ces développeurs produisaient des applications de déshabillage. Apple a encaissé.
Le TTP n’est pas la première organisation à documenter ce phénomène. Mais c’est la première fois qu’une enquête établit aussi précisément le rôle actif et rémunéré des systèmes de mise en avant dans la diffusion de ces outils. La distinction entre héberger et promouvoir, sur laquelle les plateformes ont longtemps fondé leur défense juridique, devient difficile à tenir.
