Shoah et réseaux sociaux : entre négationnisme traditionnel et fausses images générées par l'intelligence artificielle

Comme tous les ans, une cérémonie a lieu ce dimanche 6 septembre à la Grande Synagogue de la Victoire à Paris, à la mémoire des déportés juifs et des victimes de France de la Shoah. Alors qu'il ne reste qu'une poignée de survivants, la question de la mémoire se pose de plus en plus, d'autant que les fausses informations et les vidéos sur le sujet pullulent sur les réseaux sociaux.

À 101 ans, Ginette Kolinka, l'une des dernières rescapées d’Auschwitz-Birkenau, ne connaît pas TikTok, X, ou encore Instagram, elle qui n'a "même pas internet". Elle ne voit donc pas la haine en ligne, mais elle n'est pas surprise que cela existe : "Le problème de l'antisémitisme et des négationnistes, c'est qu'ils sont toujours là et qu'ils seront malheureusement toujours là".

Au cœur de très nombreuses vidéos en ligne, il y a Vincent Reynouard, un ancien enseignant, condamné à de multiples reprises pour contestation de crimes contre l'humanité. Il s'en est fait une spécialité. C'est pourquoi, dans ses formations, Romain Blandre, professeur d’histoire à Strasbourg et correspondant académique du Mémorial de la Shoah, s'en sert pour alerter collègues et élèves. "Son fonds de commerce, c'est de balancer des vidéos négationnistes très régulièrement sur des réseaux sociaux qui sont dérégulés et qui ne sont pas censurés, comme Gab et Odyssee. Je travaille sur sa négation de l'assassinat des 86 victimes juives au Struthof. Il fait une vidéo d'une vingtaine de minutes pour expliquer à ses spectateurs que la chambre à gaz du Struthof n'en est pas une, et que c'est une simple chambre froide", explique-t-il.

Il y a le négationnisme pur et dur, mais aussi la distorsion de l’histoire avec l'aide de l'intelligence artificielle. Parmi les fausses images créées avec l'aide de l'IA, qui circulent largement sur les réseaux, il en existe une en noir et blanc, elle montre un déporté jouant du violon, torse nu, le corps famélique. Rien ici ne correspond à la réalité, pas même le décor. "Les barbelés sont posés n'importe comment. Et quand ils sont posés n'importe comment, on sait que c'est un faux. Il n'y a même pas besoin d'aller chercher plus loin", indique Tal Bruttmann, spécialiste de l’histoire de la Shoah et notamment, du décryptage des photos de l'époque. Il se dit inquiet des progrès de l’intelligence artificielle, car pour les historiens, cela implique un travail de vérification beaucoup plus long.

"Le danger, à moyen terme, c'est qu'on ait la production de vrai-faux, c'est-à-dire de fausses images crédibles."

Pour l'instant, Tal Bruttmann constate que la plupart des contenus en lien avec la Shoah, qui sont créés avec de l'IA, déforment la réalité en jouant sur l'émotion. Leurs créateurs cherchent surtout à gagner de l'argent.

Malgré tout, la visée est aussi bien souvent idéologique, selon Karel Fracapane, qui est en charge des questions de mémoire et d'éducation à l'Unesco. "En ce qui concerne la falsification, c'est une approche qui est plus subtile, mais qui consiste quand même à représenter de manière délibérée des faits historiques qui sont erronés donc c'est vraiment une désinformation. L'antisémitisme ne saute pas tout de suite aux yeux et les réseaux sociaux en seront les principaux vecteurs", estime-t-il.

Karel Fracapane espère un peu plus de contrôles désormais. En 2022, il avait conduit une étude sur le sujet : "On s'était rendu compte que sur les réseaux non modérés type Telegram, environ 50% des contenus relatifs à la Shoah étaient antisémites, ce qui est énorme. Sur ce réseau par exemple, c'est 80% des contenus en langue allemande". Face à tous ces contenus, Romain Blandre, du Mémorial de la Shoah, a sa propre méthode éducative. D'après lui, il faut confronter très tôt les élèves à des propos ou des images antisémites pour les immuniser en quelque sorte, comme un vaccin.