Les faux médecins sur TikTok sèment le danger : alerte aux médecins deepfake !

Autrefois limitée aux laboratoires de recherche, l'intelligence artificielle générative est désormais accessible à tous, y compris aux personnes malveillantes. Ces individus n'utilisent pas les outils d'IA pour stimuler la créativité, mais pour alimenter la tromperie. La technologie Deepfake, capable de créer des vidéos, des images ou des sons extrêmement réalistes, devient une méthode de plus en plus utilisée non seulement pour imiter des célébrités ou influencer l'opinion publique, mais aussi pour l'usurpation d'identité et toutes sortes d'escroqueries.

UNE TROMPERIE SUR TIKTOK

Sur les plateformes de réseaux sociaux comme TikTok et Instagram, la portée et le potentiel de nuisance des deepfakes peuvent atteindre des dimensions particulièrement alarmantes. Des chercheurs ont récemment découvert en Amérique latine une campagne où des avatars créés par IA se faisaient passer pour des gynécologues, des diététiciens et d'autres professionnels de santé afin de promouvoir des compléments alimentaires et des produits de bien-être. Souvent très sophistiquées et convaincantes, ces vidéos déguisent des arguments de vente en conseils médicaux, incitant les personnes imprudentes à effectuer des achats douteux et potentiellement risqués.

LA CONFIANCE EXPLOITÉE

Chaque vidéo suit un scénario similaire : un avatar parlant, souvent coincé dans un coin de l'écran, donne des conseils de santé ou de beauté. Les recommandations, données avec un air d'autorité, orientent les spectateurs vers des produits spécifiques à la vente. En se parant du masque de l'avis d'expert, ces deepfakes exploitent la confiance pour augmenter les ventes, une tactique aussi efficace qu'immorale. D'autres vidéos aggravent encore les risques en proposant des médicaments non approuvés ou de faux traitements pour des maladies graves, allant parfois jusqu'à imiter de vrais médecins renommés.

LE MENSONGE DU « SAUVETAGE » PAR L'IA SUR TIKTOK

Les vidéos sont créées avec des outils d'IA légitimes qui permettent à quiconque d'envoyer de courtes séquences et de les transformer en un avatar sophistiqué. Bien que cela soit une aubaine pour les influenceurs souhaitant multiplier leur production, la même technologie peut être utilisée pour diffuser des affirmations trompeuses et manipuler. Ce qui peut fonctionner comme une astuce marketing peut rapidement se transformer en un mécanisme de propagation de fausses informations.

COMME SI ELLE AVAIT 13 ANS D'EXPÉRIENCE...

Les chercheurs d'ESET ont identifié plus de 20 comptes TikTok et Instagram utilisant des médecins deepfake pour promouvoir leurs produits. L'un d'eux, se faisant passer pour un gynécologue avec 13 ans d'expérience, a été retracé jusqu'à la bibliothèque d'avatars de l'application elle-même. De tels abus violent les conditions générales des outils d'IA courants tout en soulignant à quel point ils peuvent être facilement transformés en armes.

IL FAUT SE TENIR À L'ÉCART DES DANGERS DE TIKTOK

À mesure que l'intelligence artificielle devient plus accessible, il devient plus difficile de détecter ces fraudes, ce qui constitue un défi majeur, même pour les technophiles.

Voici quelques signes qui peuvent vous aider à détecter les vidéos deepfake :

- Des mouvements de lèvres non synchronisés avec le son ou des expressions faciales rigides et non naturelles,

- Des défauts visuels tels que des bords flous ou des changements soudains de luminosité,

- Une voix robotique ou excessivement polie,

- Vérifiez également le compte lui-même : les nouveaux profils avec peu d'abonnés ou sans historique sont suspects,

- Méfiez-vous des affirmations exagérées telles que « remèdes miracles », « résultats garantis » et « les médecins détestent cette astuce », surtout si elles manquent de sources fiables,

- Vérifiez toujours les affirmations auprès de sources médicales fiables, évitez de partager des vidéos suspectes et signalez les contenus trompeurs à la plateforme.