Apple a retiré Kromix de l’App Store après une enquête de WIRED sur les usages de cette application, présentée comme un outil de stylisation d’images par IA. Le service diffusait pourtant des contenus promotionnels suggérant la création d’images pornographiques truquées à partir de personnes réelles.
Meta a également supprimé la campagne publicitaire de Kromix. D’après WIRED, l’application avait fait diffuser 32 annonces, toutes destinées à des utilisateurs masculins. L’une des vidéos employait le slogan « l’IA que les hommes utilisent vraiment » et vantait un outil décrit comme sans restrictions.
Une publicité visant une personnalité politique
Une des annonces repérées par WIRED montrait une femme ressemblant fortement à une personnalité politique américaine devant les drapeaux américain et présidentiel. La séquence, introduite par la phrase « What if she moved? », faisait d’abord cligner des yeux au personnage, avant de basculer vers une scène pornographique avec un visage similaire.
Apple a déclaré à WIRED que Kromix paraissait avoir intégré ces contenus et fonctions prohibés après son passage initial par l’examen de l’App Store. La firme interdit les applications conçues pour produire, diffuser ou consulter de la pornographie.
« Les applications de “nudification” vont à l’encontre de nos App Review Guidelines et nous travaillons activement à identifier et supprimer ces applications, ainsi que les comptes développeurs qui tentent de contourner nos processus et politiques », a indiqué Apple à WIRED.
Apple avait déjà été interpellée sur ces apps
Le mois précédent, le procureur de la ville de San Francisco, David Chiu, avait demandé à Apple de retirer huit applications de « nudification » de l’App Store. Dans une autre enquête, WIRED avait aussi repéré des publicités Meta renvoyant vers MaskAI, une application permettant de téléverser une photo puis de placer le visage d’une personne dans des situations sexuelles. Apple l’a retirée après avoir été contactée par le média.
Ce que ça change
Le retrait de Kromix rappelle que l’examen initial de l’App Store ne suffit pas toujours à empêcher une application d’évoluer vers des fonctions interdites. La publicité joue aussi un rôle déterminant : les annonces Meta ont permis de diriger des utilisateurs vers l’app avant leur suppression.
Pour les personnes visées, ces outils peuvent transformer une photo ou un visage réel en contenu sexuel truqué. Apple devra donc identifier les apps qui changent de comportement après leur validation, tandis que les régies publicitaires restent un point de contrôle essentiel pour limiter leur diffusion.
À lire aussi
- App Store : une extension Mac accusée de note trompeuse
- Apple et Epic : pourquoi Fortnite a quitté l’App Store
- Apple veut encadrer les achats hors App Store
Source : WIRED — enquête originale
