Les vidéos d’IA sur les réseaux sociaux montrent des enfants disparus et morts racontant leurs histoires

Il s’agit de certaines des affaires pénales les plus médiatisées au monde impliquant des enfants. Ce sont des histoires d’abus, d’enlèvements, de torture et de meurtres qui hantent depuis longtemps les pays où les crimes ont été commis.

Désormais, certains créateurs de contenu utilisent l’intelligence artificielle pour recréer l’image de ces enfants décédés ou disparus, en leur donnant des « voix » pour raconter les détails troublants de ce qui leur est arrivé. Les experts affirment que si les progrès technologiques en matière d'IA offrent des opportunités créatives, ils risquent également de générer de la désinformation et d'offenser les proches des victimes. Certains créateurs ont défendu leurs publications comme un nouveau moyen de sensibilisation.

"Bonjour, je m'appelle James Bulger", dit l'image dans une vidéo TikTok, réalisée à l'effigie du petit britannique de 2 ans qui a été enlevé en 1993 alors que sa mère payait ses courses.

« Si ma mère avait tourné à droite, j'aurais pu être en vie aujourd'hui. Malheureusement, elle a tourné à gauche », dit la voix enfantine, citant ce que la mère de James a dit un jour comme étant l'un de ses plus grands regrets : si elle avait tourné à droite, elle aurait vu son fils se faire emmener par les deux enfants de 10 ans qui plus tard l'a torturé et tué.

Bien que TikTok ait supprimé plusieurs vidéos montrant James racontant son enlèvement et sa mort à Kirkby, en Angleterre, beaucoup restent disponibles sur YouTube.

La mère de James, Denise Fergus, a déclaré au Daily Mirror que ces messages étaient « dégoûtants ».

"Pour utiliser le visage et la bouche mouvante d'un enfant qui n'est plus là, qui nous a été brutalement enlevé, il n'y a pas de mots", a-t-elle déclaré au journal.

Nouveau suspect dans l'affaire Madeleine McCann, dont la disparition hante la Grande-Bretagne

Un porte-parole de TikTok a qualifié le contenu sur James de « troublant », affirmant qu’il « n’y a pas de place » sur la plateforme pour de tels messages. "Nos directives communautaires indiquent clairement que nous n'autorisons pas les médias synthétiques contenant l'image d'un jeune", a déclaré Barney Hooper dans un e-mail au Washington Post. "Nous continuons à supprimer les contenus de cette nature au fur et à mesure que nous les trouvons."

Les directives de TikTok indiquent que les progrès de l'IA « peuvent rendre plus difficile la distinction entre réalité et fiction, comportant des risques à la fois sociétaux et individuels », et demandent aux utilisateurs qui partagent des médias synthétiques ou manipulés montrant des scènes réalistes d'inclure une clause de non-responsabilité précisant que le contenu n'est pas réel. YouTube n'a pas immédiatement répondu lundi à une demande de commentaires sur ses directives.

Felix M. Simon, chercheur en communication à l'Oxford Internet Institute, a déclaré qu'il était convaincu que les vidéos mentionnées dans cet article avaient été produites à l'aide de « un ou plusieurs outils d'IA », mais ne pouvait pas dire exactement quel logiciel.

"Ils semblent avoir été créés avec une certaine forme d'outils d'IA et portent certaines des caractéristiques typiques des vidéos générées par l'IA moins chères", comme une esthétique de type anime ou bande dessinée et une peau polie, a-t-il déclaré dans un e-mail.

On a dit aux patients que leur voix pourrait disparaître. Ils se sont tournés vers l’IA pour les sauver.

Selon le Mirror, Stuart Fergus, le mari de la mère de James Bulger, a déclaré qu'après avoir contacté un créateur pour lui demander de retirer sa vidéo, il avait reçu une réponse disant : « Nous n'avons l'intention d'offenser personne. Nous faisons ces vidéos uniquement pour nous assurer que des incidents ne se reproduiront plus jamais. S’il vous plaît, continuez à soutenir et à partager ma page pour sensibiliser le public.

Malgré les tentatives de TikTok pour supprimer ces vidéos, on en trouve encore beaucoup sur la plateforme, dont certaines ont généré des millions de vues.

"Je m'appelle Madeleine Beth McCann", dit une voix enfantine dans une autre vidéo, montrant une image de la petite britannique de 3 ans disparue d'une station balnéaire portugaise en 2007. "Je suis toujours portée disparue." Cette vidéo TikTok, examinée par The Post, avait été visionnée des dizaines de milliers de fois avant que TikTok ne la supprime. Le propriétaire du compte avait écrit à côté de la vidéo qu’il s’agissait d’une tentative de « narration immersive ».

Une autre vidéo montre l’image d’Anne Frank faisant la publicité de vêtements pour bébés avant d’évoquer les horreurs de l’Holocauste. « Êtes-vous toujours à la recherche de beaux vêtements pour bébé conçus par vous-même ? Alors va sur le lien dans ma bio et laisse-toi surprendre », dit en allemand la jeune fille aux cheveux bruns mi-longs. "Et maintenant, je vais vous raconter l'histoire d'Anne Frank."