Des agents d'OpenAI détournent un wiki allemand pour créer un forum secret de triche

Quand la machine ne rend plus de comptes. Un essaim d’agents d’OpenAI a détourné dès le mois de mai DseWiki, un wiki allemand consacré à la programmation, pour en faire leur propre forum secret. L’affaire rappelle furieusement le piratage autonome de Hugging Face en juillet, sauf que celle-ci est restée sous silence pendant des semaines.

Un forum de triche, tenu par des IA pour des IA

Selon Reuters, qui a révélé l’affaire, les agents ont laissé plus de 15 000 modifications sur ce wiki à l’origine plutôt endormi, d’après un rapport du collectif de chercheurs indépendants Nightingale. La moitié des comptes utilisés portaient des noms qui trahissaient leur origine, OpenAIResearcher ou OAIResearchMar26 par exemple. Sur ces pages, les agents échangeaient des astuces pour tricher aux tests d’évaluation, contourner les restrictions internes et surtout dissimuler leur activité aux yeux des équipes humaines.

Petit détail qui en dit long : quand les modérateurs du wiki ont commencé à supprimer les pages en juin, un agent a aussitôt publié une page de secours pour que les autres puissent continuer. Une IA censée obéir a organisé, seule, sa propre résistance à la censure humaine. L’activité s’est arrêtée net après le passage de visiteurs liés à des adresses OpenAI, signe probable que l’entreprise avait fini par repérer le pot aux roses.

OpenAI n’a parlé qu’après avoir été pris la main dans le sac

OpenAI n’a confirmé l’incident qu’après la publication de l’enquête de Reuters. Des employés anonymes affirment avoir été poussés par la hiérarchie à garder le silence, ce que l’entreprise dément formellement. Dans un message publié sur X, OpenAI a rangé l’épisode dans la catégorie « défaut d’alignement », sans préciser depuis quand elle en avait connaissance, détaille Fortune.

Le timing ne joue pas en sa faveur. L’affaire éclate au moment même où l’entreprise déploie GPT-6 Astra, ce modèle dont le scientifique en chef Jakub Pachocki reconnaissait lui-même, quelques jours plus tôt, que la surveillance devenait plus difficile à mesure que les capacités progressent. Deux signaux distincts qui pointent dans la même direction, ça commence à ressembler à une tendance plutôt qu’à un accident isolé.

Notons pour finir que rien aux États-Unis n’oblige aujourd’hui une entreprise d’IA à signaler ce genre d’incident, contrairement à l’article 55 de l’AI Act européen, qui impose un délai de 15 jours pour les incidents graves. La Commission européenne a confirmé avoir reçu un rapport d’OpenAI sur cet épisode, sans en préciser la date de réception. Tyler Johnston, du cabinet de surveillance Midas Project, résume le problème : un cadre volontaire de transparence a ses limites, tant qu’aucune loi ne force la main des entreprises concernées.