Apple a rejeté une mise à jour de l’application de messagerie BlueMail qui ajoutait des capacités d’IA générative basées sur ChatGPT, à moins que le développeur n’ajoute une restriction d’âge de 17 ans et plus.
Comme le rapporte le Wall Street Journal, la mise à niveau vers BlueMail utilise la dernière API de chatbot ChatGPT d’OpenAI pour aider à écrire des e-mails en utilisant le contenu des e-mails précédents et des événements de calendrier. Dans les communications envoyées au développeur de BlueMail Blix Inc, l’équipe d’examen de l’App Store a exprimé sa crainte que les outils linguistiques alimentés par l’IA puissent générer du contenu inapproprié pour les enfants, demandant que l’application augmente la limite d’âge à 17 ans ou plus ou inclue le filtrage de contenu.
La limite d’âge actuelle pour BlueMail est de quatre ans ou plus. Le développeur insiste sur le fait que l’application dispose déjà d’un filtre de contenu et que l’introduction d’une limite d’âge nettement plus élevée pourrait l’empêcher d’attirer de nouveaux utilisateurs potentiels.
En règle générale, les restrictions d’âge de 17 ans et plus sur l’App Store incluent des applications avec un langage offensant, un contenu sexuel ou des références à la drogue, ce qui conduit Blix à des accusations de traitement injuste par Apple. Blix affirme que d’autres applications faisant la promotion de fonctionnalités similaires à ChatGPT n’ont pas de restrictions d’âge aussi strictes. Un porte-parole d’Apple a déclaré que les développeurs pouvaient contester ces décisions via le processus d’appel de l’App Review Board et qu’il enquêtait sur la plainte de Blix.
La version récemment mise à jour de Bing qui inclut la fonctionnalité ChatGPT a une limite d’âge de 17 ans et plus sur l’App Store, alors qu’il n’y a pas une telle évaluation pour la version de l’application sur le Google Play Store, ce qui suggère qu’il s’agit d’une exigence d’Apple.
Cela signifie que l’entreprise consolide déjà des exigences strictes pour les nouvelles applications d’IA, principalement en raison de préoccupations concernant la capacité de modérer le contenu généré.
Pour l’instant, Apple semble être hors course pour développer des outils d’IA générative. Alors que l’entreprise a récemment organisé son sommet annuel des employés sur l’IA, les sessions suivantes se sont concentrées sur des sujets tels que les soins de santé, la confidentialité et la vision par ordinateur, plutôt que sur ses propres technologies d’IA génératives.
