Anthropic appelle à une pause dans le développement de l'IA de pointe

« Il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe. » Dans un essai publié jeudi 4 juin, Anthropic cherche à replacer dans le débat public l’idée d’une pause dans la course à l’intelligence artificielle (IA). Ce potentiel arrêt – dont la durée n’est pas précisée – servirait, poursuit la start-up américaine, à « permettre aux structures sociétales et à la recherche sur l’alignement [des IA sur les valeurs humaines] de suivre le rythme des progrès de la technologie ». Anthropic s’inquiète particulièrement de la perspective « d’IA capables de se fabriquer elles-mêmes » et appelle à discuter de l’instauration d’un « mécanisme de coordination mondiale », tout en reconnaissant qu’une telle pause serait très difficile à obtenir. Cette communication d’Anthropic s’inscrit dans la foulée d’autres prises de position visant à alerter sur les progrès des IA et les risques jugés catastrophiques qui les accompagnent. Fin janvier, le cofondateur d’Anthropic, Dario Amodei, avait publié un long essai sur ce sujet. Puis, son entreprise s’était opposée au Pentagone sur l’utilisation potentielle de ses modèles d’IA pour créer des armes autonomes ou faire de la surveillance de masse.