La version de l’Intelligence d’Apple déployée en Chine doit passer un test rigoureux afin de garantir qu’elle ne remet pas en question la propagande gouvernementale officielle. Concrètement, elle sera soumise à 2 000 questions conçues pour susciter des réponses sur des sujets censurés dans le pays, avec l’obligation de refuser de répondre à au moins 95 % d’entre elles.
Censure en Chine
Comme nous l’avons précédemment noté dans un article, le gouvernement chinois impose un contrôle strict sur les sources d’information en ligne. Après avoir forcé Google à quitter le pays en raison de la censure de ses résultats, de nombreuses autres plateformes occidentales, comme Facebook, X et Wikipedia, sont bloquées par le Grand Pare-feu de Chine. De plus, de nombreux termes de recherche sont également inaccessibles via le moteur de recherche local Baidu.
Les systèmes d’IA, tels que ceux utilisés pour les recherches en ligne, sont aussi sous le joug de cette censure. En effet, les entreprises étrangères doivent désormais utiliser des modèles approuvés par des sociétés chinoises pour fonctionner sur le territoire.
L’Intelligence d’Apple en Chine
Actuellement, Apple collabore avec OpenAI, où les questions que Siri ne peut pas traiter sont redirigées vers ChatGPT. Toutefois, la collaboration en Chine nécessite un partenariat avec une entreprise d’IA locale, en l’occurrence, Alibaba.
Questions que l’Intelligence d’Apple ne doit pas avoir à répondre
Selon un rapport du Wall Street Journal, tous les modèles d’IA opérant en Chine sont tenus de passer un test pour s’assurer qu’ils ne fournissent pas d’accès à des informations sur des sujets interdits. Cette vérification inclut également la version de ChatGPT développée par Alibaba, optimisée pour les appareils Apple.
Avant leur lancement public, les entreprises chinoises doivent « pimenter » leurs modèles avec des questions : le chatbot doit refuser de répondre à 95 % des demandes susceptibles de provoquer des réactions qui pourraient défier le pouvoir de l’État ou apparaitre discriminatoires. Les règlements exigent que les chatbots soient testés avec 2 000 questions, et qu’ils soient mis à jour au moins une fois par mois.
Cette tâche est d’autant plus complexe que le gouvernement chinois cherche à contrôler l’accès aux informations disponibles sur la toile tout en souhaitant que ses modèles d’IA soient puissants en accédant à des données en dehors de la Chine, ce qui laisse aux entreprises d’IA la délicate mission de censurer ces informations.
Conséquences pour Apple
Les violations des droits de l’homme par le gouvernement chinois figureront sans aucun doute parmi les thèmes devant être censurés par les systèmes d’IA. Cela illustre une fois de plus comment Apple est contraint de faire des compromis sur ses valeurs afin de produire et de vendre ses produits sur le marché chinois.
