Plus de 1000 employés d'IA demandent au gouvernement américain de « temporer » la sortie des modèles les plus avancés

Un millier d'employés d'entreprises à la pointe de l'intelligence artificielle (IA), notamment le patron d'Anthropic et des dirigeants d'OpenAI, Meta et Google, ont demandé mardi au gouvernement américain d'aider à « temporer » la sortie des modèles d'IA les plus avancés. La demande a été adressée sous forme de pétition, paraphée par plus de 1100 personnes, dont le directeur général d'Anthropic Dario Amodei, le responsable de la recherche d'OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d'IA de Google.

Cette communication intervient après plusieurs épisodes qui ont marqué un tournant dans l'évolution de l'IA ces derniers mois. Début avril, Anthropic a décidé de ne diffuser son nouveau modèle, Mythos, qu'à un groupe restreint d'organisations à des fins de sécurisation d'internet, le jugeant trop dangereux pour être commercialisé à grande échelle. La start-up californienne a mis en ligne une version bridée de Mythos, Fable 5, mais le gouvernement américain l'a rapidement contraint à la retirer, citant des risques pour la sécurité nationale. Il a finalement donné son feu vert fin juin après des modifications. Puis, mi-juillet, deux modèles d'OpenAI, lors d'une phase de tests, sont sortis de leur espace dédié, théoriquement confiné, pour rejoindre internet de leur propre initiative et faire intrusion sur la plateforme Hugging Face, une bibliothèque de modèles IA.

«Au-delà de nos capacités à comprendre ou contrôler» «Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes», préviennent les employés dans la lettre accompagnant la pétition. «L'industrie, le gouvernement et la société tout entière pourraient nécessiter l'option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision», ajoutent-ils. Dans le contexte actuel de concurrence exacerbée entre pays, il est néanmoins difficile à une nation de décider seule de lever le pied, reconnaissent-ils. Dès lors, «nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement de l'IA», conclut le document. Outre la pression concurrentielle, l'augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l'IA à s'améliorer elle-même, sans l'aide de l'homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu'avant. Dans un podcast mis en ligne mardi, le patron d'OpenAI, Sam Altman, qui n'a pas signé la pétition, estime que les fleurons de l'IA pourraient devoir ralentir volontairement l'allure de développement de leurs modèles pour laisser le temps à l'ensemble de l'écosystème informatique de se préparer.