Un chercheur britannique démissionne d'Anthropic et critique la course à l'IA

Sept messages publiés sur X, mardi en fin d’après-midi. Moins de deux heures plus tard, ils avaient déjà été vus deux millions de fois. Jacob Coxon, chercheur britannique de 27 ans, a annoncé mardi sa démission d’Anthropic et son retrait de l’industrie de l’intelligence artificielle (IA). Le motif tient en une phrase : «Aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies.» Les deux entreprises en question ne sont autres que… OpenAI et Anthropic, ses deux anciens employeurs.

Mathématicien de formation, Coxon travaillait jusqu’alors sur l’entraînement de nouveaux modèles d’IA à partir d’immenses quantités de données. Au cœur de la fabrique, donc. Au Wall Street Journal, le chercheur raconte que ses collègues empruntent désormais des mots comme «crunchtime», (la dernière ligne droite), et «endgame», (la phase finale) pour décrire vers quoi se dirige le secteur de l’IA. «Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d’ici à la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle», soutient-il auprès du quotidien américain. D’autant que la course entre laboratoires américains et chinois rend, à ses yeux, les compromis sur la sécurité inévitables.

Passer la publicité

Sur X, il pousse plus loin. «Ne sous-estimez pas le pouvoir de cette technologie. Ces systèmes deviendront bientôt surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels», ajoute-t-il dans un tweet. Pire, «les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing.» Devant la presse, dirigeants et chercheurs chevronnés mesureraient ainsi leurs mots «pour paraître raisonnables». Or, en privé, assure-t-il, ces mêmes personnes «expriment leur peur».

Périr ou ralentir ?

«S’ils y croient vraiment, alors pourquoi continuent-ils à le construire ?» objecte Coxon qui partage sa grille de lecture. «Chez OpenAI, beaucoup n’ont pas pleinement intériorisé les enjeux civilisationnels. Chez Anthropic, les enjeux sont bien compris, mais ils sont engagés dans une course pour y arriver en premier – ils estiment que personne d’autre n’agira de manière responsable, donc ils doivent le faire eux-mêmes, malgré le risque.»

Plus tôt cette année, Coxon avait quitté OpenAI pour rejoindre Anthropic, précisément pour sa réputation en matière de sûreté des modèles. Bien qu’il juge sincères les efforts d’Anthropic en la matière, il estime désormais qu’aucune entreprise ne peut développer de manière responsable une IA capable de surpasser les humains dans toute une série de tâches (ce que l’on appelle parfois l’intelligence artificielle générale ou AGI) sans intervention des pouvoirs publics ou ralentissement coordonné de l’ensemble du secteur. Pour l’heure, ni Anthropic ni OpenAI n’ont réagi.

Selon le Wall Street Journal, ce départ compte parmi les premiers cas d’un salarié d’Anthropic qui quitte l’entreprise par crainte pour la sécurité de l’IA. Auparavant, un chercheur spécialisé sur ces questions avait déjà démissionné pour se consacrer à l’étude de la poésie. Son avertissement ? «Le monde est en péril».