Avec iOS 27, Apple introduit un nouveau cadre appelé Trust Insights, destiné à aider les applications à identifier lorsque l’utilisateur est potentiellement en train de se faire escroquer. Ce mécanisme s’applique notamment aux appels vocaux, messages texte, courriels, et bien plus encore.
Détails sur le cadre Trust Insights
Selon Apple, les arnaques de type ingénierie sociale sont souvent difficiles à détecter automatiquement, car c’est généralement l’utilisateur qui réalise les actions, se montrant ainsi « authentifié et légitime ». Ces dernières années, les arnaques liées au support technique, les usurpations d’identité d’autorité, et les fraudes d’urgence familiale se sont multipliées, notamment grâce à l’accès facilité aux deepfakes par l’intelligence artificielle.
Pour contrer ces nouvelles menaces, Apple met en avant un cadre qui fonctionne principalement sur l’appareil lui-même, analyzant « les schémas d’interaction, le timing, le contexte, et les données de capteur de base ». Si le système détecte des signes pouvant indiquer qu’un utilisateur est guidé à travers une arnaque, Trust Insights peut attribuer un niveau de risque moyen ou élevé, ce qui permet à l’application d’ajouter des avertissements, des délais ou des étapes de vérification supplémentaires.
Il est important de noter qu’Apple précise que Trust Insights n’inspecte pas le contenu des Photos, Messages ou Mail. En revanche, il analyse des signaux comportementaux sur l’appareil, jette immédiatement les données sous-jacentes et envoie uniquement une valeur de sortie unique aux serveurs d’Apple.
Processus d’évaluation des arnaques
Cette valeur peut ensuite être combinée avec des informations provenant du compte Apple de l’utilisateur ainsi que des vérifications d’activités inhabituelles, permettant à Trust Insights de rendre une évaluation finale concernant l’escroquerie suspectée.
Apple indique que même si les utilisateurs peuvent désactiver Trust Insights dans les paramètres, un délai de réactivation pourrait être imposé pour « protéger les utilisateurs qui auraient peut-être été incités à le désactiver ».
Pour commencer, Trust Insights couvrira cinq catégories principales d’opérations :
- .payment : tout échange d’actifs, contenu ou argent, y compris les achats in-app.
- .account : mises à jour des détails de compte ou des informations de sécurité.
- .resourceUse : demandes sur des infrastructures coûteuses ou limitées, comme l’inférence par IA.
- .communication : envoi de messages, soumission de formulaires ou signature de documents.
- .other : un recours pour les opérations qui ne s’inscrivent pas dans les catégories précédentes.
Apple invite également les développeurs à faire part de leurs retours via le Feedback Assistant si leur cas d’utilisation relève de la catégorie .other et à rapporter l’impact de Trust Insights sur chaque transaction, ainsi que de signaler les cas confirmés ultérieurement comme des fraudes pour améliorer le système.
Pour en savoir plus sur le cadre Trust Insights à venir, consultez la documentation des développeurs d’Apple.
