Une plainte fédérale vise xAI après la génération d'images pédopornographiques via Grok

C’est une histoire terrible, racontée par nos confrères du Washington Post, et qui illustre une fois de plus les risques liés à l’intelligence artificielle. À partir d’une simple photographie de sa belle-fille du Wyoming âgée de onze ans, allongée rêveusement sur son canapé dans un t-shirt bien trop grand, un Américain a généré plus de 7000 images de l’enfant artificiellement dénudé. Un contenu pédopornographique obtenu sur simple demande auprès de l’intelligence artificielle Grok, développée par xAI, l’entreprise d’Elon Musk, et dont certaines images ont même été publiées sur internet.

Quelques jours après la perquisition de la police locale pour fouiller les disques durs du pédocriminel, ce dernier s’est suicidé dans sa propre voiture, détaille le Washington Post. La jeune femme, dont le nom n’est pas divulgué, ne compte toutefois pas en rester là. Elle a rejoint en juillet une plainte fédérale contre xIA lancé par trois adolescentes du Tennessee, dont deux sont encore mineures, toutes anonymisées derrière les pseudonymes Jane Doe 1, 2 et 3. Toutes ont souffert des mauvais usages de cet IA et affirment que des photos d’elles prises lorsqu’elles étaient mineures ont été transformées en images sexuellement explicites.

Les plaignantes souhaitent que l’affaire, portée au tribunal fédéral du district nord de la Californie, soit reconnue comme une action collective qui dénonce la création d’images pédopornographiques à partir de l’intelligence artificielle Grok. Le combat que mènent ces plaignantes est notamment soutenu par la loi fédérale Masha, qui permet aux victimes de «pornographie infantile» (child pornography) de demander des dommages et intérêts.

La question de la responsabilité

À ce jour, le conglomérat SpaceX, auquel appartient xIA n’a pas répondu au tribunal californien. Pourtant, si ces images ont pu être librement générées, c’est notamment grâce à la politique d’Elon Musk qui a encouragé l’utilisation de son IA Grok pour créer du contenu sexuel, contrairement à ses concurrents. Le milliardaire a d’ailleurs comparé son autorisation à mettre en scène «la nudité du haut du corps de personnages humains adultes imaginaires» aux images artistiques que l’on peut voir dans les films interdits aux moins de 17 ans.

Le débat résonne fortement avec celui, plus général, des limites du premier amendement, aux États-Unis, qui protège la liberté d’expression. Les responsabilités juridiques sont floues, lors de la production de contenus pédopornographiques via l’IA, estime ainsi un professeur de droit cité par le Washington Post.