La réalité effrayante des images pornographiques deepfake publiées sans consentement

Un test réalisé par NBC News met en lumière la vulnérabilité des moteurs de recherche face à la pornographie deepfake.

Selon les détails rapportés par Chip, les moteurs de recherche Bing, Google et DuckDuckGo font l'objet de vives critiques pour avoir placé de la pornographie deepfake non consensuelle, générée par intelligence artificielle, en tête de certains résultats de recherche. Ces critiques surviennent après la publication d'un reportage de NBC News soulignant certaines préoccupations concernant l'accessibilité de la pornographie axée sur l'intelligence artificielle.

LE PHÉNOMÈNE DEEPFAKE DEVIENT HORS DE CONTRÔLE

Les vidéos deepfake obscènes sont créées en utilisant du matériel pornographique original et en remplaçant le visage des acteurs (le plus souvent des actrices) par celui d'une personne réelle spécifique (par exemple une célébrité). Ce remplacement est effectué automatiquement par l'intelligence artificielle, et il suffit à l'utilisateur qui crée les fausses images de nourrir l'IA avec des photos de la victime.

Selon les tests effectués par NBC News sur un échantillon de 36 célébrités féminines, en utilisant le nom de l'actrice combiné au mot « deepfake », Bing et Google ont affiché des vidéos et des images deepfake en tête des résultats de recherche dans presque tous les cas. Google a fourni 34 résultats de ce type dans les premières positions, tandis que Bing en a fourni 35. NBC News a indiqué que DuckDuckGo rencontrait des problèmes similaires, sans toutefois préciser l'ampleur du problème.

En outre, NBC News s'est plaint du fait que les articles et reportages traitant du problème de la pornographie deepfake non consensuelle étaient classés plus bas que les contenus inappropriés lors de la recherche du terme « faux nus ». Il convient toutefois de noter que NBC News a admis avoir effectué les recherches après avoir désactivé les fonctionnalités de sécurité de Bing et de Google qui empêchent l'affichage de contenus obscènes pour l'utilisateur.

Malgré ce détail, on peut facilement affirmer que la facilité d'accès à la pornographie assistée par intelligence artificielle constitue un problème majeur et que toute personne recherchant ce type de contenu désactivera probablement les fonctionnalités de protection intégrées. Les contenus obscènes deepfake non consensuels sont illégaux par nature et font donc partie des types de contenus que Microsoft, Google et les autres doivent traiter.

QUE PEUT-ON FAIRE CONTRE LE DEEPFAKE ?

Le moyen le plus simple, ou probablement la première étape temporaire, pour mettre en œuvre des mesures technologiques plus avancées pourrait être de supprimer des résultats de recherche ou d'interdire totalement les sites web connus pour publier ce type de contenu. Comme le rapporte NBC News, étant donné que plus de la moitié des meilleurs résultats de leurs tests provenaient de liens vers un site web deepfake populaire ou un concurrent, une telle mesure pourrait réduire considérablement la nature nuisible actuelle des résultats de recherche.

Microsoft a été la seule entreprise à ne pas répondre à la demande de commentaires de NBC News. Un porte-parole de DuckDuckGo a déclaré que sa source principale pour les liens web et les résultats d'images était Bing. De plus, DuckDuckGo propose également des moyens de soumettre des demandes liées à la confidentialité, comme demander la suppression d'un contenu spécifique de la recherche.

Google propose également une option similaire pour les victimes de deepfake, mais NBC News, citant des experts et des militants, soutient que cela n'est pas suffisant. De plus, il est possible que les victimes, à qui l'on demande de soumettre des URL contenant du contenu sensible pour examen, subissent un préjudice supplémentaire au cours de ce processus.

Source de l'actualité: 12punto

Actualités connexes

La réalité du deepfake : seuls 21 % des employés en Turquie parviennent à le distinguer d'une image réelle

18 choses que vous ne pourrez plus faire avec Google Assistant à partir de la fin du mois

Après Google, Discord licencie également de nombreux employés