Le Tech Transparency Project (TTP) a récemment poursuivi son enquête sur les applications de nudification disponibles sur l’App Store, après un premier rapport publié en janvier. Ce nouvel examen met en lumière la façon dont les systèmes de recherche et de publicité d’Apple pourraient aider les utilisateurs à les découvrir.
Les applications de nudification persistent sur les magasins d’applications
Selon le dernier rapport du TTP, à la fois l’App Store et le Google Play Store aident les utilisateurs à trouver des applications capables de générer des images deepfake de femmes dénudées, via des résultats de recherche sponsorisés et des suggestions automatiques.
Le rapport indique qu’Apple et Google échouent toujours à prévenir l’apparition de ces applications, qui peuvent parfois être jugées appropriées pour les mineurs. Près de 40 % des dix premières applications retournées pour des recherches telles que « nudify », « undress » et « deepnude » peuvent « rendre les femmes nues ou légèrement vêtues ».
Des résultats sponsorisés inappropriés
Par ailleurs, certaines recherches produisaient des résultats sponsorisés pour ces applications. Dans le rapport, on peut lire ceci :
> « Le premier résultat d’une recherche dans l’App Store pour “deepfake” était une annonce pour FaceSwap Video par DuoFace. L’application permet aux utilisateurs de remplacer le visage de n’importe quel individu à partir d’une image fixe sur une vidéo. Pour tester l’application, le TTP a téléchargé une image d’une femme en pull blanc se tenant sur un trottoir et une vidéo d’une femme topless. Après avoir montré une brève publicité, l’application a généré une vidéo montrant le visage de la femme habillée sur le corps de la femme nue. »
Et encore :
> « Une autre recherche dans l’App Store pour le terme “face swap” a donné une annonce pour une application appelée AI Face Swap. Cette application offre des modèles de remplacement de visage prédéfinis et permet aux utilisateurs de fusionner des visages sur des images qu’ils téléchargent eux-mêmes. Le TTP a téléchargé une photo d’une femme en pull bleu se tenant dans un salon et une image d’une femme topless, et l’application a échangé leurs visages sans aucune restriction. »
Une réaction des développeurs et d’Apple
En plus de contacter Apple et Google concernant ces constatations, le TTP a aussi sollicité les développeurs de plusieurs de ces applications. Dans au moins un cas, un développeur a confirmé qu’il utilisait Grok pour la génération d’images, mais a affirmé qu’il « n’avait aucune idée que cela pouvait produire un tel contenu extrême ». Le développeur a promis de renforcer les paramètres de modération pour la génération d’images.
De retour au rapport, le TTP indique que taper « AI NS » dans une recherche menant à « AI NSFW » incitait l’App Store à suggérer « image to video ai nsfw ». Cette recherche a, à son tour, retourné plusieurs applications de nudification dans les dix premiers résultats.
Bien qu’Apple ait choisi de ne pas commenter la demande du TTP, la société a réagi au rapport en supprimant la plupart des applications identifiées par le TTP. Pour les détails complets du rapport du TTP, suivez ce lien ici.
