La face sombre de l'intelligence artificielle : la Corée du Sud va lutter contre le problème des « contenus sexuels falsifiés »

Le problème des « contenus sexuels falsifiés » a fait surface en Corée du Sud. Les autorités de sécurité sud-coréennes ont annoncé le développement d'un système de détection visant à lutter contre ces contenus, qui ont causé la victimisation de nombreuses personnes.

Dans un communiqué, la police sud-coréenne a indiqué qu'environ 6 millions de dollars seraient investis pour mettre en place un système capable de détecter les contenus de type deepfake.

Selon les informations de Yonhap, les efforts se poursuivent en Corée du Sud pour endiguer la hausse des crimes liés aux images et aux sons à caractère sexuel générés par l'intelligence artificielle. Les autorités ont précisé que le projet devrait être achevé d'ici 2027 et que le système permettrait d'accélérer la détection des vidéos deepfake.

En 2024, 573 suspects liés à 1094 crimes impliquant des deepfakes ont été placés en garde à vue en Corée du Sud.

Il a été établi qu'en Corée du Sud, des images « deepfake » étaient diffusées via Telegram. Les autorités avaient ouvert une enquête sur l'application de messagerie.

L'AFFAIRE DES DEEPFAKES EN CORÉE DU SUD

En Corée du Sud, il a été constaté que des images « à caractère sexuel » contenant des sons et des images manipulés par la méthode du « deepfake » étaient diffusées dans certains groupes de discussion liés à des écoles et des universités, visant de nombreuses victimes, majoritairement des femmes et des jeunes filles.

Le chef du Bureau national d'enquête, Woo Jong-soo, avait noté qu'une enquête préliminaire avait été ouverte contre Telegram, plateforme sur laquelle ces images étaient diffusées, pour « complicité de crime ».

Les représentants de Telegram, ayant rencontré les responsables de la Commission des normes de communication de Corée (KCSC), ont déclaré être conscients de la gravité du problème et ont promis d'appliquer une « politique de tolérance zéro », incluant des mesures strictes contre ce type de matériel illégal.

Source de l'actualité: AA