Les experts inquiets : le deepfake est-il en train de devenir une arme de tromperie massive ?
Environ un quart de la population mondiale se rendra aux urnes en 2024. Les inquiétudes grandissent quant à l'utilisation de la désinformation et des trucages assistés par intelligence artificielle pour influencer les résultats électoraux. Les experts craignent les conséquences de la prolifération des exemples de deepfake. Une entreprise de sécurité numérique a examiné la question du deepfake pour déterminer s'il s'agit d'une arme de tromperie massive.
12punto
Près de deux milliards d'électeurs se rendront dans les bureaux de vote cette année pour choisir leurs représentants et leurs dirigeants politiques. Étant donné que des élections importantes auront lieu dans de nombreux pays, notamment aux États-Unis, au Royaume-Uni et en Inde (ainsi que pour le Parlement européen), cette situation a le potentiel de modifier le paysage politique et l'orientation de la géopolitique pour les années à venir.
À mesure que les images, les clips audio et vidéo falsifiés de personnes réelles se multiplient, la perspective d'une désinformation assistée par l'intelligence artificielle suscite une inquiétude croissante.
Les fausses informations dominent les gros titres liés aux élections depuis qu'elles sont devenues un sujet majeur lors de la course à la Maison Blanche en 2016.
Huit ans plus tard, une menace sans doute plus grande existe : une combinaison de désinformation et de trucages profonds (deepfakes) capables de tromper même les experts.
UN ENREGISTREMENT AUDIO ATTRIBUÉ À BIDEN
En Argentine, une série d'images et de vidéos diffusées avant les élections, ainsi qu'un enregistrement audio manipulé du président américain Joe Biden, sont autant d'exemples récents de contenus électoraux générés par l'IA qui pourraient bien être les signes avant-coureurs de ce qui pourrait se produire à plus grande échelle.
LE FORUM ÉCONOMIQUE MONDIAL SOULIGNE LE RISQUE
La désinformation et la mésinformation ont été identifiées par le Forum économique mondial (WEF) comme le risque mondial le plus important pour la période à venir. Le problème lié aux deepfakes est défini par le fait que la technologie assistée par l'IA est désormais bon marché, accessible et suffisamment puissante pour causer des dommages à grande échelle.
Cela accroît la capacité des cybercriminels, des acteurs politiques malveillants et des hacktivistes à lancer des campagnes de désinformation convaincantes ainsi que des escroqueries plus éphémères et ponctuelles.
Selon le rapport du WEF, le contenu synthétique manipulera les individus, nuira aux économies et fragmentera les sociétés de diverses manières au cours des deux prochaines années.
Le fait que des outils tels que ChatGPT et l'intelligence artificielle générative (GenAI) facilement accessible permettent à un plus large éventail d'individus de participer à la création de campagnes de désinformation pilotées par la technologie deepfake constitue un défi majeur.
UN AVANTAGE POUR LES GROUPES RIVAUX
Lors d'un processus électoral, le deepfake peut être utilisé pour ébranler la confiance des électeurs envers un candidat spécifique. Si les partisans d'un parti politique ou d'un candidat peuvent être orientés de manière appropriée par des audios ou des vidéos falsifiés, cela constituera un gain pour les groupes rivaux.
Au cœur de ce défi réside une vérité simple : les humains ont tendance à privilégier la quantité et la facilité de compréhension lorsqu'ils traitent l'information. Plus nous voyons de contenus contenant un message similaire et plus il est facile de les comprendre, plus nous avons de chances d'y croire.
Si l'on ajoute à cela le fait qu'il devient de plus en plus difficile de distinguer les deepfakes du contenu réel, on obtient une recette pour une catastrophe démocratique potentielle.
QUE FONT LES ENTREPRISES TECHNOLOGIQUES À CE SUJET ?
Il est rapporté que YouTube et Facebook ont été lents à réagir face à certains deepfakes visant à influencer une élection récente. Cela s'est produit malgré une nouvelle loi de l'UE (la loi sur les services numériques) qui oblige les entreprises de médias sociaux à empêcher les tentatives de manipulation électorale.
OpenAI a annoncé qu'elle appliquerait les informations d'identification numériques de la Coalition for Content Provenance and Authenticity (C2PA) pour les images générées par DALL-E 3.
La technologie de filigrane cryptographique, également testée par Meta et Google, a été conçue pour rendre la création d'images falsifiées plus difficile. Cependant, il ne s'agit encore que de premiers pas, et alors que la fièvre électorale s'empare du monde entier, il existe des inquiétudes légitimes quant au fait que l'intervention technologique contre cette menace sera trop peu et trop tardive.
Il sera difficile de suivre et de réfuter rapidement les audios ou vidéos falsifiés, surtout lorsqu'ils sont diffusés dans des réseaux relativement fermés tels que les groupes WhatsApp ou via des appels automatisés (robocalls).