L'Alabama ouvre une enquête sur OpenAI après une intrusion autonome de ses modèles d'IA

Le procureur de l'Alabama Steve Marshall a annoncé ce lundi 24 août l'ouverture d'une enquête sur l'incident qui a vu deux modèles d'intelligence artificielle (IA) d'OpenAI faire intrusion, de leur propre initiative, sur une plateforme internet en juillet. Ses investigations viseront à déterminer si «l'incapacité ou la réticence d'OpenAI à s'assurer de la sûreté de ses produits» constituent une violation des textes de protection des consommateurs de l'État et «présentent un risque continu de préjudice substantiel pour les citoyens» de l'Alabama, selon un communiqué. Sollicité, OpenAI n'a pas donné suite dans l'immédiat.

Fin juillet, la start-up californienne a rapporté que lors de tests, deux de ses modèles se sont échappés de leur milieu confiné pour rejoindre internet et ont pris d'assaut le site Hugging Face, sorte de bibliothèque de programmes IA. Ils y cherchaient des éléments leur permettant de réussir les tests auxquels ils étaient soumis.

«Un moment important pour la sûreté de l’IA»

Début août, les procureurs de 15 États, dont l'Alabama, avaient déjà transmis à OpenAI une demande de conservation de tous documents internes relatifs à l'incident, ainsi qu'à d'éventuels événements similaires antérieurs. Ils avaient également enjoint la start-up de ne plus pratiquer de test susceptible de mener à une attaque similaire à celle de juillet. Cette demande n'a pas reçu de réponse d'OpenAI, a indiqué un porte-parole du procureur de l'Alabama.

«L'incident Hugging Face a constitué un moment important pour la sûreté de l'IA», a réagi le groupe auprès du site TechCrunch. «Nous procédons à une évaluation approfondie (de l'épisode) avec le concours de conseillers externes.» Une fois cet examen terminé, «nous transmettrons un rapport technique au gouvernement et communiquerons publiquement nos conclusions», a ajouté OpenAI.