Apple devrait annoncer un nouveau système qui utilisera des algorithmes de hachage pour détecter si de la pornographie enfantine est présente dans les photos de la bibliothèque d’un utilisateur.
L’ensemble du processus se déroulera sur l’appareil de l’utilisateur, au nom de la confidentialité. L’iPhone téléchargera une série d’« empreintes digitales » représentant un contenu illégal, puis vérifiera chaque photo dans la pellicule de l’utilisateur. Vraisemblablement, toutes les correspondances seront signalées uniquement à l’utilisateur. Ce type de système est similaire aux fonctionnalités d’apprentissage automatique utilisées pour identifier les objets et scènes déjà présents dans Apple Photos.
Cependant, l’expert en cryptographie et sécurité Matthew Green note que les implications d’une telle implémentation sont multiples. Les algorithmes de hachage ne sont pas infaillibles et peuvent générer des faux positifs. Il n’est actuellement pas clair si Apple autorisera les gouvernements à vérifier le contenu de la base de données de ces « empreintes digitales ». Cette base de données, en fait, pourrait être utilisée pour détecter des images autres que du matériel pédopornographique. Par exemple, ils pourraient être utilisés pour réprimer l’activisme politique.
Cependant, n’oubliez pas que toutes les photos téléchargées sur iCloud pour la sauvegarde et la synchronisation sont stockées sous forme cryptée sur les batteries de serveurs d’Apple. Les clés de décryptage, cependant, appartiennent à Apple. Cela signifie que les forces de l’ordre peuvent poursuivre Apple et voir toutes les photos téléchargées par un utilisateur. À l’avenir, il est possible qu’Apple mette en œuvre un système pour analyser le contenu côté client, qui sera ensuite stocké sur un serveur de manière cryptée de bout en bout. De nombreux gouvernements ont demandé un système similaire aux applications de messagerie comme iMessage et WhatsApp. Il est à craindre que le passage croissant aux communications cryptées rende plus difficile pour les forces de l’ordre de trouver et de poursuivre les cas de maltraitance d’enfants.
