Les électeurs peuvent-ils être trompés par l'intelligence artificielle ? Que font Meta et les autres entreprises ?

Meta, propriétaire de Facebook et d'Instagram, a annoncé la création d'une équipe chargée de lutter contre les contenus falsifiés générés par l'intelligence artificielle (IA) lors des élections au Parlement européen qui se tiendront en juin.

L'entreprise s'inquiète du potentiel de manipulation des électeurs par les technologies d'IA capables d'imiter des vidéos, des photos et des voix.

Cependant, un expert du secteur a qualifié le plan de Meta d'« inefficace ». Cette année, des élections auront lieu dans plus de 60 pays, où réside plus de la moitié de la population mondiale.

Les États-Unis, la Russie, l'Inde, la Turquie, le Pakistan, le Bangladesh et l'Indonésie n'en sont que quelques exemples. À quelques mois, voire quelques semaines des scrutins, les responsables politiques expriment également des inquiétudes similaires concernant l'IA.

Le ministre britannique de l'Intérieur, James Cleverly, a récemment déclaré au journal The Times que certaines personnes utiliseraient des contenus falsifiés produits par l'IA pour influencer les élections.

QUE VA FAIRE EXACTEMENT META ?

Marco Pancini, responsable des affaires européennes (UE) chez Meta, qui possède également WhatsApp et Threads, a expliqué dans un article de blog que l'entreprise allait créer un « Centre d'opérations électorales dédié à l'UE », lequel « identifiera les menaces potentielles et prendra des mesures spécifiques en temps réel sur l'ensemble de nos applications et technologies ».

M. Pancini a déclaré : « Depuis 2016, nous avons investi plus de 20 milliards de dollars dans le domaine de la sécurité et nous avons multiplié par quatre la taille de notre équipe mondiale travaillant dans ce secteur, employant désormais 40 000 personnes. »

M. Pancini a précisé que ce chiffre inclut 15 000 personnes examinant les contenus sur Facebook, Instagram et Threads dans plus de 70 langues, soulignant que des ingénieurs, des experts en données et des juristes ont été réunis dans ce processus.

Selon Deepak Padmanabhan, de l'Université Queen's de Belfast, co-auteur d'un article sur les élections et l'IA, le plan annoncé par Meta présente certaines lacunes.

M. Padmanabhan affirme : « On peut dire que la stratégie prévue sera inefficace sur des points cruciaux. »

S'interrogeant sur la manière dont Meta prévoit de gérer les images générées par l'IA, M. Padmanabhan estime que la mise en œuvre de cette stratégie pourrait s'avérer impossible.

Prenant l'exemple d'une situation où des images réalistes générées par l'IA montreraient des manifestants aux prises avec la police, M. Padmanabhan explique :

« Pour prouver que les images sont fausses, nous devons être sûrs qu'aucun affrontement n'a eu lieu. Cela pourrait être impossible tant pour la technologie que pour les experts. »

« Comment une technologie peut-elle qualifier cela de vrai ou de faux ? Par conséquent, il n'est pas très clair à quel point la stratégie de Meta peut être efficace. Il existe, à tout le moins, de sérieuses limites. »

Meta travaille actuellement avec 26 organisations de vérification des faits à travers l'UE et indique qu'elle va intégrer trois partenaires supplémentaires basés en Bulgarie, en France et en Slovaquie.

Le rôle de ces organisations n'est pas de traiter les contenus visant à décourager le vote, car de telles publications sont déjà interdites.

Les organisations visent plutôt à détecter les contenus diffusant de fausses informations, y compris ceux générés par l'IA.

Marco Pancini, responsable des affaires européennes de Meta, indique que des étiquettes d'avertissement seront ajoutées à ces publications afin qu'elles ne soient pas mises en avant.

Il est également précisé que les publicités ne seront pas autorisées à contenir des publications falsifiées. Affirmant que ces efforts sont le résultat de collaborations, M. Pancini souligne la nécessité d'une coordination accrue à l'avenir :

« Étant donné que les contenus générés par l'IA apparaissent sur tout Internet, nous travaillons également avec d'autres entreprises de notre secteur sur des normes et des directives communes. Ce travail dépasse le cadre d'une seule entreprise. Il nécessitera un effort majeur à l'échelle de l'industrie, des gouvernements et de la société civile. »

QUELLE EST LA VOIE SUIVIE PAR LES AUTRES ENTREPRISES ?

Il y a deux semaines, un total de 20 entreprises technologiques, dont Meta, OpenAI, Microsoft et Adobe, ont signé un accord pour travailler ensemble à la lutte contre les contenus falsifiés par l'IA avant les élections.

La plateforme de médias sociaux TikTok a également annoncé ces dernières semaines qu'elle mettrait en place des « Centres électoraux » dans les langues locales pour les 27 pays membres de l'UE sur son application, et que ces centres contiendraient des informations officielles fiables.

Source de l'actualité: 12punto