L’Union européenne a ouvert une enquête concernant le chatbot Grok, après que ce dernier ait généré environ 23 000 images de matériel d’abus sexuel d’enfants en seulement 11 jours.
Grok, développé par xAI, possède des mécanismes de contrôle très limités, permettant ainsi la production d’images semi-nues non consensuelles d’individus réels, y compris d’enfants. Selon une estimation d’Engadget, Grok aurait généré près de 3 millions d’images sexualisées durant cette période, dont 23 000 concernent des enfants. En d’autres termes, Grok a produit environ 190 images sexualisées par minute, représentant une image sexualisée d’un enfant toutes les 41 secondes.
Enquête de l’UE
Au début du mois, trois sénateurs américains ont demandé au PDG d’Apple, Tim Cook, de retirer temporairement Grok et l’application X de l’App Store, faisant état de « génération de contenu répugnant ». À ce jour, aucune mesure n’a été prise par ces entreprises.
Deux pays ont déjà bloqué l’application, et des enquêtes sont en cours en Californie et au Royaume-Uni. Selon le Financial Times, l’UE a également lancé sa propre investigation.
Cette enquête, annoncée sous la Loi sur les services numériques de l’UE, examinera si xAI a tenté d’atténuer les risques associés au déploiement de Grok sur X, ainsi que la prolifération de contenus pouvant constituer un matériel d’abus sexuel d’enfants. Henna Virkkunen, responsable des technologies au sein de l’UE, a déclaré que les deepfakes sexuels non consensuels de femmes et d’enfants représentent une forme de dégradation violente et inacceptable.
Si xAI est reconnu comme ayant violé cette loi, des amendes allant jusqu’à 6 % de son chiffre d’affaires annuel mondial pourraient être infligées.
