La pression remonte d’un cran sur les boutiques d’applications. Le City Attorney de San Francisco a adressé jeudi des lettres de mise en demeure à Apple et Google pour demander le retrait de 13 applications d’IA présentées comme des outils de « face swap », mais utilisées pour « déshabiller » des photos de personnes réelles et créer des images nues sans consentement.
D’après ces courriers, 8 de ces applications sont disponibles sur l’App Store et 5 sur le Play Store. Le bureau du City Attorney demande aussi aux deux groupes de couper leurs liens avec les développeurs concernés et de ne plus toucher de revenus via les achats intégrés associés à ces apps.
San Francisco vise aussi le rôle économique des plateformes
Le point le plus sensible du dossier n’est pas seulement la présence de ces apps, mais le fait que l’autorité locale estime qu’Apple et Google « aident et encouragent » la vente d’images explicites générées par deepfake. Le City Attorney qualifie cette activité d’« illégale, nuisible et totalement inacceptable ».
Son bureau avance également qu’Apple et Google auraient perçu des millions de dollars de commissions grâce à ces applications. L’attaque ne porte donc pas uniquement sur la modération, mais aussi sur la responsabilité financière des plateformes lorsqu’elles encaissent une part des paiements liés à ce type de services.
Le sujet est d’autant plus délicat que les deux entreprises disposent déjà de règles développeurs interdisant la pornographie. La question posée ici est celle de l’application réelle de ces règles face à des apps qui se présentent comme de simples outils créatifs, alors qu’elles serviraient en pratique à générer de faux nus de personnes réelles.
Google a réagi, Apple pas encore publiquement
Selon une porte-parole de Google, l’entreprise a supprimé « des centaines » d’applications intégrant des fonctions de « nudifying » pour non-respect de ses règles, y compris les 5 apps mentionnées dans les lettres. À ce stade, aucune réponse équivalente d’Apple n’est mentionnée sur le retrait des 8 applications ciblées sur l’App Store.
En juin, Apple avait pourtant durci la formulation de ses règles de l’App Store sur la responsabilité des développeurs en matière de contenus pornographiques. Ce resserrement montrait déjà une vigilance accrue sur ces usages, sans régler visiblement la question de l’exécution sur les apps déjà publiées.
Ce que ça change
Pour Apple, l’enjeu va au-delà de huit apps : c’est la promesse d’un App Store plus sûr et plus contrôlé qui est directement testée. Si la commission prélevée par la plateforme devient un angle d’attaque pour les autorités, la pression pourrait augmenter sur la validation initiale et sur la surveillance après publication.
Pour les utilisateurs, cette affaire rappelle qu’une app présentée comme ludique ou créative peut cacher des usages très abusifs. Le point à suivre est désormais simple : la réponse d’Apple sur ces 8 applications et, plus largement, la manière dont l’App Store fera appliquer ses propres règles face aux deepfakes explicites.
À lire aussi
- L’UE impose à Google d’ouvrir Android aux IA rivales de Gemini
- Apple visée par une class action aux États-Unis après la faille de « Masquer mon adresse e-mail »
Source : San Francisco City Attorney — cease-and-desist letters to Apple and Google
