Steve Wozniak, Elon Musk et plus de 1 000 experts de l’industrie ont signé une lettre ouverte appelant à l’arrêt immédiat de six mois de la technologie d’IA de ChatGPT-4.
C’est l’année où les plates-formes d’IA telles que ChatGPT et Google Bard sont devenues courantes. Alors que toutes les entreprises d’IA décrivent leurs produits comme des expériences ou en fait des bêtas, leurs capacités de traitement du langage sont intégrées dans les recherches Microsoft 365 et Bing.
Désormais, le Future of Life Institute appelle à une pause » publique et vérifiable » qui inclut tous les acteurs clés du domaine. » Si une telle pause ne peut pas être mise en œuvre rapidement « , ajoute-t-il, » les gouvernements devraient intervenir et instituer un moratoire « .
L’Institut du futur de la vie vise à » diriger la technologie transformatrice vers le bénéfice de la vie et loin des risques extrêmes à grande échelle « .
Cette lettre de 600 mots, adressée à tous les développeurs d’IA, soutient qu’une pause s’impose car » ces derniers mois, les laboratoires d’IA se sont lancés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que n’importe qui d’autre « , pas même leurs créateurs – ils peuvent comprendre, prédire ou contrôler de manière fiable.
- Lire aussi : Bing sait désormais générer des images à la demande grâce à l’Intelligence Artificielle
» Les laboratoires d’IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l’IA qui sont rigoureusement contrôlés et supervisés par des experts externes indépendants « , poursuit-il. » Ces protocoles sont censés garantir que les systèmes qui y adhèrent sont sécurisés au-delà de tout doute raisonnable. «
» Cela ne signifie pas une pause dans le développement de l’IA en général « , indique la lettre ouverte, » mais seulement un pas en arrière par rapport à la course périlleuse vers des modèles de boîtes noires toujours plus grands et plus imprévisibles avec des capacités émergentes. «
À l’heure actuelle, la lettre ouverte compte 1 123 signataires. Ceux-ci incluent ceux de grande envergure tels que :
- Elon Musk, PDG de SpaceX, Tesla et Twitter
- Steve Wozniak, co-fondateur d’Apple
- Jaan Tallinn, co-fondateur de Skype
- Evan Sharp, co-fondateur de Pinterest
Qu’en pensez-vous ?
