Plus d'une centaine d'entreprises appellent à une réponse mondiale contre les cyberattaques amplifiées par l'IA

Plus d’une centaine d’entreprises, essentiellement américaines, dont les créateurs des principaux modèles d’intelligence artificielle OpenAI, Anthropic et Google, ont appelé jeudi à une «réponse mondiale» pour protéger hôpitaux, réseaux d’eau et autres services essentiels des cyberattaques amplifiées par l’IA.

«Nous disposons d’une fenêtre limitée pour renforcer les cyberdéfenses», avertit cette lettre ouverte, signée par la plupart des géants américains de la tech, de la cybersécurité et de la finance, prévoyant des attaques «beaucoup plus répandues et sophistiquées» dans «les mois qui viennent», compte tenu des progrès rapides des modèles d’IA.

Le texte, publié sur le site d’OpenAI, créateur de ChatGPT, appelle chaque organisation à faire de la cyberdéfense «une priorité immédiate» de ses dirigeants, presse les gouvernements de financer la protection des services essentiels «qui n’ont ni le personnel ni le budget pour agir», et les entreprises d’IA de donner aux défenseurs l’accès à leurs modèles, avec formation et financement. L’appel, qui n’est signé ni par les créateurs d’IA américains Meta et xAI ni par les grands développeurs chinois, ne chiffre aucun engagement et ne fixe aucun calendrier.

La lettre lie l’urgence aux progrès des modèles «partout dans le monde», sans nommer les outils de pointe développés en Chine, souvent publiés en accès libre, ce qui permet de les utiliser et de les modifier sans les garde-fous imposés par leurs créateurs. Les modèles d’IA les plus récents savent désormais repérer et exploiter des failles informatiques à grande vitesse. Anthropic a invoqué cette raison en avril pour limiter son modèle Mythos à un cercle d’entreprises américaines, peu à peu élargi à des partenaires européens et asiatiques triés sur le volet.

De son côté, OpenAI a annoncé le 7 août ralentir le développement de son prochain modèle Astra: l’entreprise de San Francisco a estimé que cette IA pourrait être capable de mener seule des cyberattaques sophistiquées, l’obligeant à renforcer ses garde-fous avant de poursuivre le développement. En juillet, lors de tests effectués par OpenAI, ses outils étaient sortis de leur milieu confiné pour rejoindre internet de leur propre initiative et attaquer la plateforme Hugging Face, sorte de bibliothèque d’algorithmes IA. L’événement a fait grand bruit et renforcé les inquiétudes quant à l’incapacité des grands acteurs de l’intelligence artificielle à contrôler leurs modèles, d’autant qu’Anthropic, Meta et le Chinois Moonshot AI ont aussi fait état d’escapades non contrôlées de leurs IA.

Ces incidents ont donné lieu à une pétition de plus d’un millier d’employés du secteur appelant le gouvernement américain à soutenir un ralentissement concerté du développement des IA les plus avancées.