Au moins 37 procureurs généraux des États-Unis réagissent face au problème du chatbot Grok, qui génère des contenus d’abus sexuel sur des enfants (CSAM).
Cela survient alors que l’application a été interdite dans deux pays et que des enquêtes ont été ouvertes à la fois au Royaume-Uni et dans l’UE. Cependant, Apple et Google ont jusqu’à présent ignoré les demandes de retrait temporaire des applications Grok et X de leurs boutiques respectives.
Le problème CSAM de Grok
De nombreux chatbots d’IA modernes peuvent générer des images à partir de descriptions textuelles, et Grok, développé par xAI, ne fait pas exception. Ce chatbot peut produire ces images directement dans l’application, sur le web ou via X.
Ce qui est remarquable, cependant, ce sont les garde-fous extrêmement lâches de Grok. Cette situation a permis la génération d’images non consensuelles de personnes réelles, y compris d’enfants. Une estimation indique qu’environ 23 000 images CSAM auraient été créées en seulement 11 jours.
Une réaction des États-Unis
Selon un rapport de Wired, au moins 37 États et territoires américains demandent désormais à xAI de résoudre ce problème par le biais d’une lettre ouverte signée par la majorité d’entre eux.
Cette lettre exige que xAI prenne six mesures visant à stopper la production d’images intimes non consensuelles et de CSAM, dont :
- prendre toute mesure nécessaire pour empêcher Grok de produire de telles images;
- éliminer le contenu déjà généré;
- suspendre les utilisateurs ayant créé ces matériaux;
- signaler ces créateurs aux autorités compétentes;
- donner aux utilisateurs de X le contrôle sur leurs contenus;
- mettre en place des mesures de protection efficaces qui ne se limitent pas à un paywall.
La nécessité d’une intervention d’Apple et Google
Plus tôt ce mois-ci, trois sénateurs américains ont exhorté le PDG d’Apple, Tim Cook, à retirer temporairement les applications X et Grok de l’App Store en raison de la « génération de contenus répugnants ». À ce jour, Apple n’a pas encore agi.
Il est désormais évident que xAI ne mènera aucune action significative sans pression. La manière la plus efficace de faire avancer les choses est que Apple et Google retirent temporairement les applications Grok et X de leurs boutiques respectives.
