iOS 27 inclut des références dans le code à des rappels de pause que Siri pourrait afficher après des conversations particulièrement longues. Voici les détails.
Siri pourrait inciter les utilisateurs à faire une pause
Les inquiétudes concernant les chatbots conversationnels grandissent, certains utilisateurs devenant trop attachés à ces assistants virtuels et passant de longues périodes à converser avec eux comme s’ils étaient de vraies personnes.
Dans des cas extrêmes, des rapports ont fait état de cas de ce que l’on appelle la « psychose AI » ou « psychose de chatbot », où des utilisateurs développent des croyances délirantes ou voient des problèmes de santé mentale déjà existants s’aggraver après des interactions prolongées avec des chatbots.
Cette situation a amené des entreprises comme OpenAI, Anthropic et Google à mettre en place des mesures de sécurité pour rappeler aux utilisateurs les limites des compagnons AI et encourager une utilisation plus saine.
Par exemple, ChatGPT peut désormais montrer des rappels pendant des conversations particulièrement longues, incitant les utilisateurs à faire une pause. Claude, de son côté, a été aperçu en train d’inciter les utilisateurs à se reposer, à boire de l’eau ou à se distancier après des sessions prolongées.
Lors de la keynote de la WWDC cette semaine, Apple a abordé plusieurs questions de confidentialité et de responsabilité liées au développement de Siri AI. Cependant, un aspect qui n’a pas été abordé est celui des conversations trop longues.
Comme l’a noté Aaron Perris sur X, iOS 27 inclut des chaînes de code pour un message « Prenez une pause », suggérant que Siri AI pourrait afficher un rappel après des conversations d’une certaine durée. Ce message rappelle également à l’utilisateur que Siri n’est pas une personne réelle.
Dans iOS 27, si vous utilisez la nouvelle Siri trop longtemps, vous pourriez recevoir un message « Prenez une pause » :
« Vous êtes dans cette conversation depuis heures – envisagez de faire une pause. Siri n’est pas une personne, mais sera là quand vous serez prêt à reprendre. »
D’après le code partagé par Perris, il ne semble pas y avoir de durée fixe après laquelle Siri affichera le rappel. Il est probable qu’Apple utilise cette valeur en combinaison avec d’autres signaux pour déterminer si le message doit être affiché, ou que la limite puisse varier en fonction de facteurs autres que la durée de la conversation.
Apple n’a pas encore confirmé officiellement cette fonctionnalité, ni comment elle fonctionnera, si elle est jamais déployée. Pour l’instant, les références n’apparaissent que dans le code. Néanmoins, l’existence de ces chaînes suggère que la société est consciente de cette responsabilité qui accompagne la distribution de chatbots propulsés par l’IA.
Pensez-vous que Siri AI devrait avoir des rappels de pause ? Faites-le nous savoir dans les commentaires.
