IA : les patrons du secteur doivent être «responsables de son développement sécurisé», soutient le patron de Nvidia

Les dirigeants d'entreprises d'intelligence artificielle doivent assumer «la responsabilité du développement sécurisé de cette technologie», a estimé mardi le patron du géant américain des puces Nvidia, Jensen Huang, après une série d'incidents de sécurité ayant suscité de vives inquiétudes dans le monde. «Il ne s'agit pas de faire la course pour développer des capacités sans se soucier de l'aspect sécurité (de l'IA). Il faut s'occuper de tout en même temps», a poursuivi le patron lors d'un point presse à Paris organisé dans le cadre d'une tournée européenne.

Le débat mondial sur la sécurité de l'intelligence artificielle (IA) et le besoin d'un meilleur encadrement de cette technologie a été relancé après une série d'incidents au cours desquels des programmes d'IA d'OpenAI, d'Anthropic, de Google ou encore de Meta sont sortis de leur milieu confiné pour pirater d'autres organisations. Le plus sérieux a vu deux IA d'OpenAI sortir lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de partage de modèles d'intelligence artificielle, dont s'est emparé Nvidia en septembre.

À lire aussi Opérations «Dark Clark» et «Bogus Bylines» : OpenAI révèle que ChatGPT a été détourné par des propagandistes russes et iraniens

Passer la publicité

Le géant des cartes graphiques a présenté fin septembre un dispositif pour enfermer les agents d'intelligence artificielle, ces programmes capables d'effectuer des tâches en autonomie à l'origine des différents incidents, qui pourrait selon lui résoudre le problème. Pour Jensen Huang, la sécurité de l'IA est avant tout un problème technique qui peut se résoudre avec de meilleurs outils, et qu'il n'y a pas de raison de ralentir le développement de cette technologie, comme l'ont réclamé de grands patrons du secteur tels que Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk.

«Le plein potentiel de l'IA ne peut être réalisé que si nous faisons progresser les capacités de l'IA et la sûreté et la sécurité de l'IA en même temps», a insisté M. Huang à Paris. «Ce ne sont pas des objectifs contradictoires. C'est, en réalité, le même objectif». «Il faut une ingénierie d'excellence pour faire progresser la sécurité», a-t-il ajouté.