Récemment, des images créées par deepfake ont suscité un large écho sur Internet. La technologie deepfake, fréquemment utilisée pour la production de contenus pornographiques contrefaits, a provoqué des débats suite à la diffusion d'images de Taylor Swift générées par cette méthode. La chanteuse a annoncé qu'elle engagerait des poursuites judiciaires. La faille utilisée par Microsoft pour la création de ce type d'images a été corrigée.
La source du problème a été identifiée dans ce contexte et Microsoft a procédé aux mises à jour nécessaires sur son API Azure Face.
La faille de sécurité a été découverte après l'apparition d'un groupe partageant des images obscènes de femmes générées par l'intelligence artificielle via Microsoft Designer. Il est estimé que des individus malveillants ont utilisé l'API Azure Face pour créer des photos et des vidéos dénudées de Taylor Swift et d'autres célébrités.
Les fausses images ont rapidement atteint des millions d'utilisateurs et, suite aux critiques, la plateforme X a bloqué les recherches liées à Taylor Swift. Les images, également partagées sur des applications telles que Facebook et Instagram, ont été supprimées de ces plateformes.
Source de l'actualité: 12punto
