Deux pays ont décidé de bloquer l’application Grok après son utilisation massive pour générer des deepfakes non consensuels, impliquant des femmes et des enfants. Un troisième pays mène actuellement une enquête.
Une requête des sénateurs américains
Trois sénateurs américains ont demandé à Apple de retirer temporairement les applications X et Grok de l’App Store des États-Unis en raison de ce qu’ils qualifient de « génération de contenu répugnant ». Nous attendons toujours une réponse de la part de la société.
Des deepfakes inquiétants
L’outil AI Grok est disponible en tant qu’application autonome ainsi que via l’application X. Des preuves abondantes montrent que Grok a généré des deepfakes non consensuels, en prenant une photo habillée et en supprimant numériquement les vêtements pour les remplacer par un bikini ou d’autres tenues révélatrices. Plus préoccupant encore, certaines de ces images impliquent des enfants.
Bien que Grok soit censé bloquer les images nues, des utilisateurs ont trouvé des formulations qui contournent cette restriction.
Bloqueurs en Asie du Sud-Est
Selon l’Associated Press, la Malaisie et l’Indonésie ont bloqué l’application sur leur territoire. Les régulateurs des deux nations d’Asie du Sud-Est ont déclaré que les contrôles actuels ne parvenaient pas à empêcher la création et la diffusion de contenus pornographiques falsifiés, en particulier ceux impliquant des femmes et des mineurs. Le gouvernement indonésien a temporairement bloqué l’accès à Grok samedi, suivi par la Malaisie dimanche.
De plus, l’organisme de régulation britannique Ofcom a ouvert une enquête officielle. Des rapports préoccupants ont émergé concernant l’utilisation du compte chatbot AI Grok sur X pour créer et partager des images dénudées de personnes, ce qui pourrait constituer des abus d’images intimes ou de la pornographie.
Absence de réponse d’Apple et Google
À l’heure actuelle, aucune réponse publique n’a encore été communiquée par Apple ou Google, et les applications restent disponibles sur leurs boutiques d’applications respectives aux États-Unis. Nous avons contacté Apple pour obtenir un commentaire et informerons nos lecteurs en cas de réponse.
