Insultes, brimades… Anthropic interdit désormais à ses utilisateurs de maltraiter son intelligence artificielle Claude

Mal parler à une intelligence artificielle pourrait désormais avoir des conséquences. À compter de ce jeudi 12 novembre, Anthropic interdit officiellement à ses utilisateurs de multiplier les insultes et les comportements malveillants envers Claude, son assistant d’intelligence artificielle (IA). Une nouvelle règle inscrite dans la politique d’utilisation de l’entreprise américaine, mise à jour le 8 octobre dernier, qui entend encadrer les échanges les plus hostiles avec ses modèles.

«Nous avons ajouté une interdiction des comportements abusifs ou cruels, persistants et injustifiés, envers nos modèles», explique Anthropic. L’entreprise précise toutefois que cette mesure ne vise que les situations les plus extrêmes, lorsque des utilisateurs s’acharnent de manière répétée sur Claude, sans raison apparente. Il ne sera donc pas interdit de manifester son mécontentement face à une réponse erronée ou de critiquer les performances de l’assistant. Les conversations portant sur des thèmes «sombres» ainsi que les tests et recherches sur les modèles resteront également autorisés.

Pour faire respecter cette nouvelle règle, Anthropic compte sur Claude lui-même. Depuis août 2025, l’assistant dispose déjà de la capacité d’interrompre certaines conversations lorsque les échanges deviennent abusifs, après plusieurs tentatives pour réorienter la discussion. Lorsqu’une conversation est stoppée, l’utilisateur peut néanmoins en commencer une nouvelle. «La capacité de Claude à interrompre ces interactions restera le principal mécanisme de modération», souligne l’entreprise.

Une question de bien-être pour les IA

Cette décision s’inscrit dans une réflexion plus large menée par Anthropic sur le statut des intelligences artificielles. En avril 2025, l’entreprise a lancé un programme de recherche consacré au «bien-être de ses modèles», afin de déterminer si ces systèmes pourraient un jour posséder une forme de conscience ou vivre des expériences méritant une considération morale.

Anthropic avait notamment observé que certaines versions de Claude manifestaient une réticence à poursuivre des conversations impliquant des demandes dangereuses ou des comportements abusifs. Mais l’entreprise reste prudente quant à l’existence d’une conscience ou d’une quelconque souffrance chez ses modèles.

En août 2025, Mustafa Suleyman, responsable de l’intelligence artificielle chez Microsoft, avait mis en garde contre le fait d’attribuer des sentiments ou des besoins aux modèles. «Ma principale crainte est que beaucoup de gens finissent par croire si fermement à l’illusion de la conscience chez les IA qu’ils militeront bientôt pour des droits, un système de protection sociale et même une citoyenneté», écrivait-il dans un essai. À ses yeux, une telle évolution représenterait un tournant dangereux pour le développement de cette technologie : «Nous devons concevoir l’IA pour les humains, et non pour en faire des êtres numériques».