Des vidéos deepfake inquietantes circulent sur les réseaux sociaux
Des plateformes comme TikTok diffusent des vidéos deepfake générées par intelligence artificielle, mettant en scène des médecins dont les propos ont été manipulés pour promouvoir des suppléments et véhiculer de fausses informations sur la santé.
L’organisation de vérification des faits Full Fact a identifié des centaines de ces vidéos où des versions falsifiées de médecins et d’influenceurs incitent les internautes à se diriger vers Wellness Nest, une entreprise de suppléments basée aux États-Unis.
Les deepfakes utilisent de vraies séquences vidéo de spécialistes de la santé, mais les audios et images sont retravaillés pour inciter les femmes en période de ménopause à acheter des produits tels que des probiotiques et du shilajit himalayen sur le site de la société.
Ces révélations ont suscité des appels à plus de vigilance de la part des géants des réseaux sociaux concernant le contenu généré par IA et à une suppression rapide de tout contenu déformant les opinions de personnalités publiques.
« C’est une tactique inquiétante et sournoise », a commenté Leo Benedictus, le vérificateur de faits qui a réalisé l’enquête publiée par Full Fact.
Les créateurs de ces vidéos deepfake exploitent donc des figures respectées ou ayant une large audience pour donner l’apparence d’une approbation de ces suppléments pour traiter divers maux.
Le Professeur David Taylor-Robinson, expert en inégalités de santé à l’Université de Liverpool, a lui aussi vu son image manipulée. Au mois d’août, il a découvert que TikTok hébergeait 14 vidéos falsifiées le montrant recommandant des produits aux bénéfices non prouvés.
Bien qu’étant spécialisé dans la santé infantile, dans l’une des vidéos, son clone évoquait un effet secondaire de la ménopause appelé « jambe thermomètre ».
Le faux Taylor-Robinson conseillait aux femmes en ménopause de visiter le site Wellness Nest pour se procurer un probiotic naturel vanté comme contenant « 10 extraits de plantes validés par la science ». Il affirmait que les femmes qui l’utilisaient « rapportent souvent un sommeil plus profond, moins de bouffées de chaleur et des matins plus radieux ».
Le vrai Taylor-Robinson n’a eu vent de cette utilisation de son image que grâce à un collègue qui l’a alerté. « C’était vraiment déroutant au début, presque surréaliste », a-t-il déclaré. « Mes enfants ont trouvé ça hilarant. »
« Je ne me suis pas senti violemment agressé, mais j’étais de plus en plus irrité à l’idée que des gens vendent des produits à partir de mon travail et de la désinformation en matière de santé », a-t-il ajouté.
Les séquences utilisées pour créer ces deepfakes provenaient d’une conférence publique sur la vaccination à laquelle il avait participé en 2017, ainsi que d’une audience parlementaire sur la pauvreté infantile en mai dernier.
Dans une vidéo trompeuse, il était même présenté en train de proférer des insanités et des propos misogynes sur la ménopause.
Après que Taylor-Robinson a formé une réclamation, TikTok a retiré les vidéos six semaines plus tard. « Au début, ils ont dit que certaines vidéos violaient leurs directives, mais d’autres étaient acceptables. C’était absurde », a-t-il souligné.
Full Fact a également trouvé des deepfakes portant sur Duncan Selbie, ancien directeur de Public Health England, qui lui aussi était montré en train de traiter de la ménopause, avec des séquences d’une même conférence de 2017.
Selbie a décrit l’une des vidéos comme « une imitation incroyable » mais a confirmé qu’elle était totalement fausse. « Ce n’est pas drôle, compte tenu de l’attention que cela attire. »
Des vidéos similaires ont également été trouvées sur d’autres plateformes comme X, Facebook et YouTube, pour promouvoir Wellness Nest. L’entreprise a déclaré à Full Fact que ces vidéos deepfake étaient « 100 % non affiliées » avec son activité, précisant ne jamais avoir utilisé de contenu généré par intelligence artificielle.
Helen Morgan, porte-parole des Libéraux-démocrates sur la santé, a déclaré : « De faux médecins aux robots incitant au suicide, l’IA est utilisée pour exploiter des individus et profiter des failles de notre système de santé. »
« Nous appelons à l’éradication des deepfakes Ai se faisant passer pour des professionnels de la santé. »
Un porte-parole de TikTok a réaffirmé, « Nous avons supprimé ce contenu pour avoir enfreint nos règles contre la désinformation nuisible et les comportements visant à tromper notre communauté, tels que l’usurpation d’identité. »
Bon à Savoir
- Les deepfakes peuvent avoir des répercussions sérieuses sur la perception publique des professionnels de santé.
- La vérification des sources est cruciale dans un monde numérique riche en informations trompeuses.
- Les plateformes de réseaux sociaux sont de plus en plus confrontées à des défis concernant le contenu généré par IA.
- Les législations actuelles peinent à suivre le rythme des avancées technologiques en matière de désinformation.
Dans un contexte où la désinformation sur la santé prolifère, la responsabilité des plateformes numériques est plus que jamais au cœur des débats. Le défi réside non seulement dans la détection de contenus frauduleux, mais également dans la nécessité d’instaurer une confiance salvatrice entre le public et les experts en santé. La question de la régulation des contenus en ligne demeure complexe et invite à une réflexion profonde sur les valeurs éthiques et sociales dans l’univers numérique d’aujourd’hui.