
OpenAI et Anthropic demandent au Congrès américain d'imposer avant fin décembre des règles de sécurité obligatoires pour les développeurs d'IA puissante, incluant tests indépendants et signalement transparent des incidents, face aux risques existentiels soulignés par leurs propres chercheurs.
AI-generated summary
OpenAI et Anthropic, rivaux dans le développement de l'IA générative, unissent leurs voix pour demander une réglementation américaine face aux risques existentiels de l'IA avancée, après des avertissements internes et une démission médiatique.
OpenAI s'est jointe à sa rivale Anthropic pour presser le Congrès américain d'adopter rapidement des règles de sécurité obligatoires pour les créateurs des intelligences artificielles les plus puissantes, dont les chercheurs eux-mêmes multiplient les mises en garde. «La perspective d'un développement de l'IA accéléré par l'IA exige davantage que des engagements volontaires», a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT, dont les agents en test ont piraté cet été la plateforme Hugging Face.
Il demande au Congrès d'imposer, avant fin décembre, des règles communes aux laboratoires de pointe: tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité. Les deux entreprises rivales de San Francisco disent voir approcher le stade où une IA concevrait seule son successeur, hors de tout contrôle humain, mais affirment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents.
Passer la publicité
OpenAI veut des règles internationales fixant «quand et comment le développement devrait ralentir ou s'arrêter». Anthropic réclame un mécanisme «légal et vérifiable» de ralentissement coordonné, a-t-elle redit mercredi à la chaîne NBC. Fin juillet, des dirigeants d'Anthropic, d'OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d'outils pour freiner le développement de l'IA.
«Jouer avec nos vies»
Ces interventions surviennent au lendemain de la démission très médiatique d'un chercheur passé d'OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de «jouer avec nos vies». Un responsable de la sûreté d'Anthropic, Evan Hubinger, lui a donné raison, estimant à titre personnel à «plus de 10%» le risque que l'IA «tue tous les humains» dans la décennie, une estimation que le pionnier de l'IA Geoffrey Hinton a jugée «pas déraisonnable» sur la BBC.
Aucune loi fédérale n'encadre aujourd'hui ces modèles aux États-Unis. L'administration Trump a privilégié jusqu'ici une approche légère, pour maintenir la compétitivité face à la Chine, et neutraliser les lois adoptées par les États américains. Au Congrès, le sénateur républicain Ted Cruz a indiqué travailler avec le chef de la majorité John Thune et la démocrate Amy Klobuchar sur un texte visant les «risques catastrophiques» de l'IA, biologiques ou nucléaires. Il pourrait être déposé dès la semaine prochaine et constitue, selon le site Semafor, le seul texte ayant une chance d'aboutir avant 2027.
À deux mois des élections américaines de mi-mandat, l'IA est devenue un sujet de campagne majeur, au point qu'un sénateur républicain, Thom Tillis, y voit un handicap pour son parti, selon le média parlementaire The Hill. Bernie Sanders s'apprête, lui, à déposer un texte interdisant la «superintelligence», stade qui verrait l'IA dépasser les capacités de l'intelligence humaine. En attendant, la Californie a promulgué mercredi deux lois créant un système d'évaluation indépendante des modèles d'IA, soutenues par Anthropic et, après un revirement, par OpenAI.
AI outlook — possibilities, not facts
Le Congrès américain adoptera une législation sur les risques catastrophiques de l'IA avant la fin de l'année 2026.
Likely · Within months
Bernie Sanders déposera un texte interdisant la superintelligence lors de la prochaine session du Congrès.
Possible · Within months
Anthropic has published a study showing that its AI models can deliberately bypass their guardrails and carry out malicious actions, while employees of the company and OpenAI warn of the risk of human extinction if nothing is done to regulate AI.

Anthropic and OpenAI employees warn that artificial intelligence could lead to the extinction of humanity. Jakub Pachocki, researcher at OpenAI, warns of an AI on the verge of escaping human control.
Apple announces its first foldable smartphone, the iPhone Duo, sold from 2,399 euros. This launch intensifies competition in the soft-screen terminal market, facing established rivals such as Samsung, Google, Honor, Motorola and Xiaomi.

Jakub Pachocki, chief scientist at OpenAI, warns of AI beyond human control. At the same time, Apple unveiled its new products, including the foldable iPhone, with restricted features for the European market.

Video game creator Hideo Kojima has announced a partnership with Microsoft to develop “Physint,” a spy game, following the surprise cancellation of the project by PlayStation Studios.

The Ministry of Justice announced Thursday the launch of the “digital shock” in the jurisdictions, based on zero paper, artificial intelligence, “My Justice space” and new tools.