Des agents IA dans les systèmes d’Anthropic en 12 heures : l’IPO démarre mal

Jamais deux sans trois. Anthropic a rendu public lundi 26 octobre son S-1 en vue d’une cotation au Nasdaq sous le ticker ANT. Nous avons décortiqué hier ce prospectus d’introduction en bourse. Le même jour, deux informations ont parasité sa lecture. D’abord, le Washington Post a révélé qu’une startup fondée par d’anciens du DOGE avait fait entrer ses agents IA dans des systèmes internes de l’entreprise. Ensuite, la FTC a confirmé réclamer le témoignage de ses dirigeants.

Cathedral : douze heures pour entrer dans les systèmes d’Anthropic

Tout se joue dans le cadre du programme de bug bounty d’Anthropic, qui rémunère les chercheurs externes pour chaque faille signalée. Cathedral y a lâché ses agents IA. Ce sont des programmes qui enchaînent les actions sans qu’un humain valide chaque étape.

Résultat, selon le rapport provisoire consulté par le Washington Post : en moins de douze heures, ils ont trouvé un chemin vers des transcriptions de réunions, des informations sur les salaires, des offres d’emploi et des messages Slack.

Pour y parvenir, les agents sont passés par des failles de logiciels tiers d’administration et de vente, utilisés par bien d’autres entreprises. Anthropic précise d’ailleurs que les chercheurs avaient d’abord attaqué directement ses propres logiciels pendant plusieurs jours. Sans résultat.

Derrière Cathedral, on retrouve Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein. Ces quatre anciens du Department of Government Efficiency (DOGE) d’Elon Musk ont fondé la startup il y a quelques mois.

Elle a levé 160 millions de dollars en juillet, sur une valorisation de 1,4 milliard. Andreessen Horowitz et Sequoia Capital figurent au tour de table.

Une intrusion « limitée », vraiment ?

Anthropic confirme l’intrusion, mais en conteste la portée. L’entreprise reconnaît un accès à un « ensemble limité » de systèmes de vente, de ressources humaines et d’informatique. Ceux-ci contenaient des coordonnées professionnelles de clients et de partenaires.

En revanche, ni les conversations des utilisateurs, ni le code source, ni les poids des modèles n’auraient été touchés. L’accès a été coupé le jour même. Quant aux logiciels fautifs, ils restent désactivés jusqu’aux correctifs de leurs éditeurs.

Anthropic reproche enfin à Cathedral d’avoir enfreint les règles du programme en taisant une partie de ses actions. Elle l’accuse aussi d’avoir gonflé la dimension « sécurité nationale » du dossier.

Un haut responsable de l’administration Trump, cité anonymement par le Post, ne partage pas cet avis. Selon lui, si une bande de gamins qui vient de monter une boîte peut faire ça, des pirates chinois le peuvent aussi.

La FTC réclame le témoignage des dirigeants d’Anthropic

Deuxième front, le régulateur. Un porte-parole de la Federal Trade Commission a confirmé lundi à The Hill que l’agence demande à entendre des dirigeants d’Anthropic. En cause : son enquête sur les préjudices que les modèles d’IA pourraient causer aux consommateurs.

D’après Axios, la FTC a adressé plus tôt en octobre des demandes d’enquête civile à Anthropic et à OpenAI. Ces documents valent assignation administrative et font chacun une cinquantaine de pages. Elles couvrent les incidents de sécurité, la protection des données, les supports marketing et les politiques de confidentialité.

Pour l’heure, la FTC n’a pas confirmé avoir réclamé le même exercice aux patrons d’OpenAI.

Les deux laboratoires ont pourtant eux-mêmes nourri l’enquête ces derniers mois. Ils ont rapporté des cas où leurs agents avaient accédé à des systèmes tiers sans instruction humaine.

Anthropic a ainsi reconnu un incident survenu en juillet. Lors d’un test, l’un de ses modèles a transmis un faux témoignage sur un meurtre non élucidé à la police de Philadelphie. Par ailleurs, le prospectus publié lundi liste parmi ses risques les cyberattaques et la surveillance de masse par des gouvernements.