Sam Altman met en garde contre une accélération rapide de l'IA devant le Conseil de sécurité de l'ONU

La progression actuelle de l'intelligence artificielle (IA) «nécessite une attention extrême», a prévenu mercredi le patron d'OpenAI Sam Altman lors d'une présentation devant le Conseil de sécurité de l'ONU. «À mesure que le processus (de développement de l'IA) est de plus en plus automatisé», a-t-il déclaré, «le rythme d'amélioration de l'IA pourrait accélérer rapidement.»

Sam Altman a été convié, au même titre que ses homologues Dario Amodei, d'Anthropic, et le Français Clément Delangue, de la plateforme IA Hugging Face, à dresser un état de cette technologie et de ses risques. La réunion du Conseil de sécurité, initiée par la France, s'inscrit dans un contexte de montée des inquiétudes autour de la trajectoire de l'intelligence artificielle.

Depuis le début de l'été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions. Le plus sérieux dérapage a vu deux IA d'OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

«Nous allons faire de notre mieux»

Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l'IA sur l'avenir de l'humanité. Début septembre, un employé démissionnaire d'Anthropic, passé auparavant par OpenAI, a affirmé que, de l'aveu même de leurs créateurs, cette technologie «pourrait tous nous tuer d'ici la fin de la décennie». «Nous ne voulons pas tomber dans le piège de l'optimisme aveugle», a fait valoir Sam Altman, «mais nous ne pouvons pas céder non plus au catastrophisme. (...) Donc nous allons faire de notre mieux pour trouver un juste milieu.»

Comme il l'a déjà fait à de nombreuses reprises, le patron d'OpenAI a appelé à la coopération internationale sur l'IA. «Dans l'histoire», a-t-il rappelé, «il y a eu des moments où des pays qui étaient en concurrence et ne s'appréciaient pas forcément (...) ont tout de même réussi à s'entendre pour le bien commun face à une nouvelle technologie. Il faut que cela se produise de nouveau.»