Anthropic propose une loi sur l'IA, qui confierait à un juge le dernier mot

Faute de loi fédérale, Anthropic, le créateur de l'assistant d'IA Claude, propose à des élus américains son propre texte pour encadrer l'IA : Washington pourrait bloquer un modèle dangereux, mais seulement avec l'aval d'un juge.

Selon le texte, dévoilé par le média Politico, Washington pourrait bloquer un modèle en cas de risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d'un milliard de dollars de dégâts, mais seulement avec l'aval d'un juge. Le projet imposerait aussi aux développeurs de «tester les modèles les plus puissants», d'être «transparents auprès du public» sur leurs résultats, de les «soumettre à une évaluation indépendante» et de «maintenir un solide programme de sécurité», a indiqué un porte-parole ce vendredi 16 octobre.

Sous Donald Trump, la politique américaine en matière d'IA repose essentiellement sur des décrets et des engagements volontaires des entreprises, pour ne pas ralentir un boom qui porte l'économie du pays. Divisé, le Congrès n'a rien voté à ce jour sur le sujet, devenu brûlant après les révélations l'été dernier d'une série d'incidents de sécurité causés par des IA de pointe, dont certaines ont échappé au contrôle de leurs concepteurs. Anthropic, qui a été bannie du Pentagone par l'administration Trump en février, a ensuite été contrainte en juin par Washington de suspendre pendant près de trois semaines ses modèles les plus avancés.

«Notre proposition donne aussi au gouvernement fédéral la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants», a déclaré le porte-parole de l'entreprise, dont les relations avec l'administration Trump se sont récemment réchauffées. Le patron d'Anthropic, Dario Amodei, a appelé l'industrie à ralentir à la mi-septembre, craignant qu'un groupe d'agents d'IA soit capable de «prendre le contrôle de l'intégralité d'internet» d'ici six à douze mois.

Donald Trump a qualifié de «forces négatives» les multiples appels à ralentir. David Sacks, son ancien conseiller pour l'IA, accuse Anthropic d'utiliser la réglementation pour entraver ses concurrents. Le texte proposé primerait aussi sur certaines lois des États, comme celle en vigueur en Californie. En juin, Anthropic écrivait qu'«en l'absence d'une loi fédérale forte, les États devraient conserver la pleine autorité pour légiférer».

Charlie Bullock, du centre de réflexion Institute for Law & AI, a salué sur X un texte «plutôt raisonnable», «plus que ce qu'ont fait les autres laboratoires». Il le juge toutefois «plus faible» que le FRONTIER Act, une proposition de loi concurrente présentée cet été à la Chambre des représentants.