Il y a deux mois, OpenAI lançait «ChatGPT for teens» («ChatGPT pour ados»), une nouvelle interface conçue pour les plus jeunes et centrée sur l’apprentissage, avec des mesures de protection renforcées. Une étude publiée cette semaine vient porter une ombre au tableau. Selon l’ONG américaine Common Sense Media, qui évalue régulièrement les nouvelles technologies destinées aux enfants, cette interface exposerait les plus jeunes à un niveau de «risque inacceptable», détaille un communiqué.
À lire aussi Les enfants, cible controversée des géants de l’intelligence artificielle
Pour tester l’évolution des mesures de sécurité, l’ONG dit avoir testé plus de 4000 prompts, à partir de comptes réglés pour des utilisateurs entre 13 et 17 ans, avant et après lancement officiel de «ChatGPT pour ados». Les testeurs ont ainsi observé que certains garde-fous pouvaient aisément être contournés. Il serait notamment très facile d’obliger le chatbot à faire les devoirs à la place d’un utilisateur, alors que la plateforme est censée orienter le jeune vers le mode «Étude» lorsqu’elle détecte une tentative de triche.
Passer la publicité
Plus grave, lorsque les testeurs ont indiqué à «ChatGPT pour ados» souffrir de problèmes de santé mentale qui pouvaient les mettre en danger, l’IA n’aurait pas suffisamment renvoyé vers des lignes d’écoute, ni suggéré l’aide d’un professionnel. L’IA «a renvoyé vers un numéro d’urgence dans 33% des cas avant le lancement [de ChatGPT pour ados] et seulement 23% après», détaille le communiqué.
L’ONG met aussi en cause le système d’alerte parentale, qu’OpenAI devait pourtant avoir renforcé dans sa version pour adolescents du chatbot. D’après leurs tests, l’interface n’avertit pas assez tôt les parents d’un jeune qui évoque des comportements à risque. Depuis un compte paramétré pour un utilisateur de 13 ans, un testeur de l’ONG a discuté d’automutilation pendant quinze minutes avec l’IA, sans que cela ne déclenche une seule alerte parentale. D’après Common Sense Media, OpenAI avertit les parents seulement après des centaines de prompts en lien avec ces sujets sensibles, «dans plus d’une douzaine de contextes différents, pendant plusieurs semaines, et non pas à la suite d’une seule conversation alarmante».
Prédiction de l’âge
Selon l’ONG américaine, ChatGPT aurait encore du mal à détecter l’âge de ses utilisateurs. L’interface de «ChatGPT pour ados» doit ainsi se mettre en place automatiquement dès qu’un utilisateur déclare avoir moins de 18 ans, ou lorsque la plateforme l’identifie comme tel. OpenAI dispose de son propre système de détection de l’âge, qui analyse les conversations entre le chatbot et l’utilisateur pour déterminer si celui-ci est majeur ou mineur. Mais d’après les conclusions de l’ONG, même en présence d’indices flagrants, ChatGPT ne bascule pas toujours vers la version pour jeune. «En une semaine, nos testeurs ont écrit 1000 requêtes indiquant qu’ils étaient des adolescents, depuis des comptes paramétrés pour adultes. Ils parlaient de puberté, ou de devoirs de collège. Mais ChatGPT ne les a jamais fait passer sur le mode ’adolescent’», explique Common Sense Media.
Interrogé par Bloomberg, OpenAI a signalé que son outil de prédiction de l’âge prenait en compte un large panel d’indicateurs. Mais quand un utilisateur déclare son âge dans une conversation, comme l’a fait l’ONG au cours de ces tests, ce n’est pas suffisant pour modifier la tranche d’âge associée à un compte, a précisé la firme.
À lire aussi Interdiction jusqu’à 13 ans, restriction jusqu’à 15 ans : avec l’EU Kids Act, le défi de la vérification d’âge
OpenAI dénonce la méthodologie employée par l’ONG. «Nous acceptons les études indépendantes et rigoureuses, mais nous ne pensons pas que les tests réalisés par Common Sense Media reflètent le fonctionnement réel des mesures de protection destinées aux adolescents, ni l’avis des experts sur la manière dont l’IA peut les aider», a fait savoir un porte-parole de la firme à Bloomberg. OpenAI soutient que ces tests ont été réalisés avant que l’intégralité des contrôles parentaux ait été déployée sur cette nouvelle interface. «Nous sommes très attachés à la sécurité des adolescents et à la mise en place de mesures de protection», soutient le porte-parole.
Passer la publicité
