Quelques heures après qu’une coalition d’organisations de défense des droits numériques, de la sécurité des enfants et des droits des femmes ait demandé à Apple de prendre des mesures immédiates contre X et Grok AI, xAI a confirmé que Grok ne modifiera plus les images de « vraies personnes en vêtements révélateurs comme des maillots de bain ».
Apple sous pression pour retirer X et Grok de l’App Store
Ces derniers jours, de nombreux utilisateurs de X et de Grok ont demandé à l’IA de xAI de dévêtir des femmes et même des filles mineures, à partir de photos publiées sur X.
Bien qu’xAI ait initialement qualifié la situation de « lacunes dans les systèmes de protection », Grok a continué de répondre à de multiples demandes pour modifier les images de cette manière. Cela a conduit à ce que X soit bloqué dans plusieurs pays, et xAI est devenu la cible d’enquêtes dans d’autres.
Pendant ce temps, Apple a fait face à une pression croissante pour retirer les applications X et Grok de l’App Store, tant de la part des sénateurs que des utilisateurs. Ce matin, une coalition de 28 organisations de défense des droits numériques, de la sécurité des enfants et des droits des femmes a soumis des lettres ouvertes à Apple et à Google, demandant aux deux sociétés « d’agir immédiatement pour interdire Grok, le modèle de langage (LLM) développé par xAI », de leurs stores d’applications.
xAI affirme que Grok cessera de modifier des images, en partie
Bien qu’Apple et Google soient restés principalement silencieux depuis le début de l’affaire, xAI a confirmé aujourd’hui qu’il mettra à jour le compte Grok sur X pour traiter le problème, du moins en partie :
MIS À JOUR DU COMPTE @GROK
Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre la modification d’images de vraies personnes en vêtements révélateurs, tels que des maillots de bain. Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants.
De plus, la création d’images et la capacité de modifier des images via le compte Grok sur la plateforme X ne sont désormais disponibles qu’aux abonnés payants. Cela ajoute une couche supplémentaire de protection en veillant à ce que les individus qui tentent d’abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenus responsables.
MIS À JOUR DE GEO-BLOCAGE
Nous géobloquons désormais la capacité de tous les utilisateurs de générer des images de vraies personnes en maillots de bain, sous-vêtements et vêtements similaires via le compte Grok et Grok dans X dans les juridictions où cela est illégal.
Sans surprise, une recherche rapide sur les mentions de Grok révèle que plusieurs abonnés de X tentent déjà de contourner les nouvelles restrictions, avec un certain succès. Pendant ce temps, les non-abonnés obtiennent principalement le message suivant :
« La génération et la modification d’images sont actuellement limitées aux abonnés Premium vérifiés. Vous pouvez vous abonner pour débloquer ces fonctionnalités. »
Analyse de la situation
Alors qu’xAI ajuste les nouveaux filtres et règles, il reste à voir si cela suffira à mettre un terme à cette affaire. L’histoire montre que les trolls peuvent être extrêmement créatifs lorsqu’il s’agit de contourner les restrictions de sécurité, en particulier lorsqu’il s’agit d’agresser les femmes en ligne.
Étant donné les multiples exceptions dans l’annonce de xAI, notamment le fait que certaines règles ne s’appliquent qu’au compte de Grok sur X, il est fort probable que cela ne sera pas la fin de l’affaire, en particulier pour les victimes. Il est donc décevant de voir Apple rester silencieuse sur le problème (du moins publiquement), espérant qu’il s’estompe de lui-même.
