Un chercheur d'Anthropic quitte l'industrie et prédit une fin du monde imminente à cause de l'IA

" Avancer vite et casser des choses ". L’adage est bien connu dans la Silicon Valley. Il a été popularisé par le jeune Mark Zuckerberg, à l’époque où son réseau social, Facebook, déferlait sur la planète. Une manière de signifier que l’innovation à la californienne n’est pas affaire de précautions. Quinze ans plus tard, les nouveaux seigneurs de l’intelligence artificielle ont intégré la leçon. Le 8 septembre, Jacob Coxon, chercheur chez l’un des leaders du secteur, Anthropic, quittait bruyamment cette industrie, formulant dans une salve de tweets viraux sa crainte de voir une IA « tous nous tuer d’ici à la fin de la décennie ». La faute à la progression de systèmes qu’il qualifie de « bientôt surhumains, capables de pirater n’importe quoi (…) et d’acquérir un pouvoir et des ressources réels ». Sur X, son collègue Evan Hubinger embrayait aussitôt : le responsable de la sûreté d’Anthropic estime, lui, à « plus de 10 % » les chances d’une fin du monde imminente.

Le…