Des contenus pornographiques contrefaits de Taylor Swift créés par deepfake

Le membre du Congrès Joseph Morelle, qui avait précédemment annoncé une proposition visant à prévenir les deepfakes, a déclaré que les images et les vidéos "peuvent causer des dommages émotionnels, financiers et réputationnels irréversibles".

Nous voyons depuis des années comment Internet et la technologie sont utilisés à des fins malveillantes par des personnes malintentionnées. Cependant, avec la technologie deepfake, nous constatons que de nombreux artistes célèbres, politiciens ou personnalités publiques sont représentés en train de dire, de faire ou de porter des choses qu'ils n'ont jamais dites, faites ou portées. Cette technologie est également utilisée pour préparer des contenus pornographiques contrefaits mettant en scène des femmes célèbres. Taylor Swift en est la dernière victime.

LES IMAGES DE TAYLOR SWIFT POURRAIENT AVOIR ÉTÉ DIFFUSÉES PAR UN GROUPE TELEGRAM MISOGYNE

La source des images contrefaites de Taylor Swift n'est pas officiellement connue, mais elles ont été visionnées plus de 45 millions de fois. Ces images créées ont été partagées sur X et le hashtag Taylor Swift AI est entré dans l'agenda mondial. Dans certaines régions, cette recherche est devenue une tendance.

Selon 404 Media, Swift ne laissera pas passer cet incident et compte engager des poursuites judiciaires. La plateforme médiatique a également entrepris des recherches en suivant la trace des images. Elle a appris que les images contrefaites publiées ici provenaient d'une communauté sur Telegram « dédiée aux images obscènes de femmes ». Elle a rapporté que des images obscènes de femmes produites par l'intelligence artificielle via Microsoft Designer étaient partagées au sein de cette communauté.

Mason Allen, responsable de la croissance chez Reality Defender, un groupe de détection de deepfakes, a déclaré : "Malheureusement, elles se sont propagées à des millions d'utilisateurs avant que certaines ne soient supprimées."

APPELS À UNE RÉGLEMENTATION LÉGALE

Suite au retentissement de ces images, des appels en faveur d'une réglementation légale ont commencé à se faire entendre. Le membre du Congrès Joseph Morelle, qui avait précédemment annoncé une proposition visant à prévenir les deepfakes, estime que les images et les vidéos "peuvent causer des dommages émotionnels, financiers et réputationnels irréversibles".

Aucune déclaration n'a encore été faite par la célèbre artiste à ce sujet, mais nous voyons comment la technologie peut devenir effrayante entre de mauvaises mains. Certains outils d'intelligence artificielle empêchent la création de contenus +18 et contrefaits, mais ce n'est pas le cas de tous. De plus, la grande majorité de ces outils sont proposés gratuitement. Par ailleurs, ces images, qui contreviennent normalement aux politiques de X, sont restées en circulation sur la plateforme pendant des heures. Cela a été perçu comme un échec de la part de X.

Mise à jour : La porte-parole de la Maison Blanche, Karine Jean-Pierre, a déclaré que la situation était préoccupante et que l'administration américaine travaillait à trouver une solution par le biais de « mesures législatives ». Jean-Pierre a déclaré : « Le partage d'images contrefaites de Taylor Swift sur les réseaux sociaux est préoccupant. Nous savons que ce type d'incident affecte de manière disproportionnée les femmes et les jeunes filles. L'administration Biden est déterminée à garantir que nous réduisions les risques liés aux images contrefaites générées par l'intelligence artificielle par le biais de mesures législatives. Les travaux visant à trouver des solutions réelles se poursuivront. À ce stade, bien que les entreprises de réseaux sociaux prennent leurs propres décisions indépendantes en matière de gestion de contenu, nous pensons qu'elles ont un rôle important à jouer dans l'application de leurs propres règles pour empêcher la propagation de fausses informations et d'images intimes de personnes réelles sans leur consentement. »

Source de l'actualité: 12punto

Actualités connexes

Une nouvelle technologie de génération d'images pour augmenter la fréquence d'images

Percée majeure dans le traitement du cancer grâce à la nanotechnologie

Les effets de la transformation technologique amorcée par la pandémie se poursuivent