Le visage effrayant de l'intelligence artificielle : le Deepfake imite parfaitement des personnalités pour des escroqueries à plusieurs centaines de milliers de dollars

On observe récemment que la fraude est passée à une nouvelle étape grâce aux systèmes de création vidéo et de manipulation vocale par intelligence artificielle.

Alors que ces systèmes sont utilisés pour dérober les informations bancaires et les investissements des individus, les criminels piègent leurs victimes via une méthode appelée "deepfake", qui implique des sons et des images manipulés.

Alors que ces systèmes sont utilisés pour dérober les informations bancaires et les investissements des individus, les criminels piègent leurs victimes via une méthode appelée "deepfake", qui implique des sons et des images manipulés.

À travers ces fausses vidéos où des célébrités proposent des « opportunités d'investissement radicales promettant des rendements rapides » et s'expriment sur l'économie, les internautes sont incités à investir dans des entreprises inexistantes.

Par le biais de ces vidéos, il est demandé aux personnes ciblées d'envoyer de l'argent sur des comptes spécifiques pour profiter de ces prétendus investissements, avec la promesse qu'elles gagneront des sommes supérieures à celles qu'elles ont versées.

Des vidéos créées avec un budget très faible peuvent être préparées en quelques minutes et diffusées sous forme de publicités sur des applications populaires telles que Facebook et YouTube.

Dans ces images, où les accents de personnalités célèbres peuvent être imités, de faux graphiques et des logos de sites d'information sont également utilisés pour induire les gens en erreur.

Avec plus de 2 000 vidéos « deepfake » identifiées, Elon Musk serait la personnalité la plus utilisée dans cette méthode de fraude.

Par ailleurs, les experts soulignent que, bien que les vidéos « deepfake » ne soient pas encore « totalement parfaites », elles s'améliorent de jour en jour et deviennent de plus en plus convaincantes.

Lou Steinberg, fondateur de la société de cybersécurité CTM Insights, a déclaré au New York Times que le nombre de personnes utilisant cette méthode augmentera à mesure que les organisations criminelles réaliseront qu'elles peuvent détourner cette technologie à leurs propres fins.

Selon un article du New York Times, Steve Beauchamp, un retraité de 82 ans, est l'une des victimes d'une escroquerie par « deepfake ». En 2023, M. Beauchamp a perdu la majeure partie de ses investissements après avoir été trompé par une publicité « deepfake » mettant en scène Elon Musk.

Beauchamp a déclaré avoir envoyé environ 690 000 dollars à des escrocs après avoir visionné une vidéo dans laquelle Musk évoquait une opportunité d'investissement à haut rendement.

Steve Beauchamp a indiqué qu'il pensait réellement que la personne dans la vidéo était Musk et a exprimé ses regrets de ne pas avoir informé la police de la situation à temps.

Parmi les personnes escroquées par cette méthode figurent également des employés de sociétés multinationales.

Le rapport de Nature met également en lumière les histoires de l'urologue sud-africaine Kgomotso Mathabe et du médecin indien Viswanathan Mohan.

Mathabe a découvert que son image, créée par la méthode du « deepfake », était utilisée dans une publicité sur Internet, après avoir été harcelée par de nombreuses victimes d'escroquerie.

Expliquant qu'un nouveau médicament était promu dans la publicité avec sa propre image, Mathabe a déclaré que les spectateurs étaient redirigés vers un site où leurs informations de compte étaient dérobées.

Le médecin indien Viswanathan Mohan a découvert que son visage était utilisé sur Internet dans une vidéo où il semble donner un avis d'expert dans une langue qu'il ne maîtrise pas, afin d'escroquer des personnes.

M. Mohan a souligné que cette image constitue non seulement une atteinte à sa réputation, mais pose également un problème juridique.

Le New York Times a rapporté que le milliardaire australien du secteur minier, Andrew Forrest, dont le visage a également été utilisé dans ces publicités, a porté plainte contre Meta, la société mère de Facebook, Instagram et WhatsApp.

En réponse à Forrest, qui a affirmé que les fausses publicités sur Facebook attiraient des "utilisateurs innocents vers de mauvais investissements", l'entreprise a déclaré qu'elle "entraînait ses systèmes de détection automatique pour repérer les fraudes sur sa plateforme".

YouTube, une autre plateforme où les "deepfakes" sont courants, a annoncé avoir supprimé plus de 15,7 millions de chaînes et plus de 8,2 millions de vidéos pour violation de ses règles.

L'entreprise a également rendu obligatoire pour les créateurs de contenu de déclarer l'utilisation de l'intelligence artificielle lorsqu'ils produisent des contenus réalistes.