Dans une lettre obtenue exclusivement par NBC News, Apple a informé des sénateurs américains de ses actions en coulisses pour faire face à la montée virale de deepfakes sexualisés générés par Grok plus tôt cette année. Voici les détails.
Apple agit discrètement face à la controverse autour de Grok
Plus tôt dans l’année, Apple a subi une pression intense pour retirer les applications Grok et X de l’App Store, après que des utilisateurs ont découvert que le chatbot pouvait facilement se conformer à des demandes pour déshabiller des personnes sur des photos, en particulier des femmes, y compris des mineurs.
Bien qu’Apple soit resté largement silencieux pendant la controverse, NBC News rapporte que, en coulisses, la société a « trouvé que X et Grok violaient ses directives » et a « menacé en privé de retirer » Grok de l’App Store.
Selon le rapport, Apple a « contacté les équipes derrière X et Grok après avoir reçu des plaintes et constaté une couverture médiatique sur le scandale », exigeant que « les développeurs de l’application élaborent un plan pour améliorer la modération du contenu ».
Des mises à jour et des refus successifs pour Grok
X, quant à lui, a soumis une mise à jour de l’application Grok pour examen, mais celle-ci a été rejetée car les « modifications n’étaient pas suffisantes ». L’entreprise d’Elon Musk a ensuite soumis des versions révisées des applications X et Grok, dont une seule a été acceptée.
Dans la lettre d’Apple, citée par NBC News :
> « Apple a examiné les nouvelles soumissions faites par les développeurs et a déterminé que X avait considérablement résolu ses violations, mais que l’application Grok demeurait non conforme. Par conséquent, nous avons rejeté la soumission de Grok et informé le développeur que des modifications supplémentaires seraient nécessaires pour remédier à la violation, sinon l’application pourrait être retirée de l’App Store. […] Suite à un engagement supplémentaire et aux modifications apportées par le développeur de Grok, nous avons déterminé que Grok avait considérablement amélioré et avons donc approuvé sa dernière soumission. »
Bien que ces détails n’aient pas été rendus publics jusqu’à présent, ils aident à expliquer la série de changements de modération déroutants annoncés par xAI au plus fort du mécontentement, y compris des restrictions sur qui pouvait utiliser les outils d’image de Grok et des limites sur les modifications impliquant des photos de personnes réelles.
Cependant, dans un rapport séparé publié aujourd’hui, NBC News indique que Grok « continue de générer des images sexualisées de personnes sans leur consentement », après avoir documenté des dizaines de tels cas au cours du mois dernier.
Le rapport note que bien que le volume d’images ait considérablement diminué depuis janvier, un sous-ensemble d’utilisateurs parvient encore à contourner les restrictions pour mettre des femmes « dans des vêtements plus révélateurs, tels que des serviettes, des soutiens-gorge de sport, des tenues moulantes de Spider-Woman ou des costumes de lapin. »
