Trois sénateurs américains ont sollicité le CEO d’Apple, Tim Cook, afin de retirer temporairement les applications X et Grok de l’App Store. Ils font référence à une récente génération de contenus jugés « répugnants ».
Dans une lettre ouverte adressée à Tim Cook et à son homologue de Google, Ed Markey, Ron Wyden, et Ben Ray Luján révèlent leur inquiétude face à la création de « images sexualisées non consensuelles » de femmes et d’enfants via ces applications.
Des contenus alarmants
Les sénateurs décrivent comment les utilisateurs de X ont exploité l’outil AI Grok pour générer d’énormes quantités d’images sexuelles non consensuelles de citoyens privés. Certains cas incluent des images modifiées pour représenter des abus, des humiliations et même des meurtres.
Plusieurs rapports suggèrent que Grok a également été utilisé pour créer des images sexualisées d’enfants, un contenu hautement illégal et déplorable. Les inquiétudes sont exacerbées par les réactions de certains dirigeants de X, dont le CEO Elon Musk, qui a manifesté son approbation pour cette tendance par des émojis.
Une demande pour une action rapide
Les parlementaires soulignent que les entreprises ont déjà démontré leur capacité à retirer rapidement des applications sous pression gouvernementale, citant le retrait d’applications comme ICEBlock, des outils permettant de signaler des activités d’application de la loi.
Ils insistent sur le fait que, comparativement à X, ces applications n’exploitaient pas des contenus nuisibles ou illégaux. Ainsi, la demande de retrait des applications X et Grok s’appuie sur une nécessité d’agir rapidement afin de protéger les utilisateurs et d’adhérer aux normes des app stores.
Pour lire la lettre ouverte dans son intégralité, vous pouvez consulter ce lien.
