Poursuite contre un utilisateur ayant généré des images obscènes avec Grok

La société d'intelligence artificielle xAI, détenue par Elon Musk, a intenté un procès à un utilisateur aux États-Unis, alléguant que le système Grok a été utilisé à mauvais escient pour générer du contenu sexuel illégal.

Dans la plainte déposée devant un tribunal fédéral du Texas, l'entreprise affirme qu'un individu nommé Terry Harwood a tenté de créer des deepfakes obscènes en téléchargeant des images non sexuelles d'adultes et de mineurs sur Grok. Il est précisé que M. Harwood a été arrêté plus tôt cette année en Caroline du Sud pour des accusations d'abus sexuels sur mineurs.

xAI soutient que les actions de Harwood constituent une violation des conditions d'utilisation de la société. Cette affaire est considérée comme l'une des premières poursuites engagées par une entreprise d'intelligence artificielle contre un utilisateur accusé d'avoir utilisé son système pour produire du matériel obscène et illégal.

La démarche de l'entreprise fait suite à des allégations selon lesquelles Grok permettrait la création d'images deepfake sexualisées sans le consentement des personnes concernées, ou de vidéos réalistes générées par intelligence artificielle. Dans sa plainte, xAI a indiqué prendre des mesures contre les comptes enfreignant ses règles, telles que la suspension, la clôture de compte et le signalement de tout matériel suspect d'abus sexuel sur mineurs au National Center for Missing and Exploited Children (NCMEC).

La plainte précise qu'en 2026, xAI a suspendu 52 222 comptes et soumis 73 604 signalements au NCMEC ; ces signalements ayant abouti à l'arrestation d'« au moins » 244 personnes.

La société a également affirmé que Harwood n'avait pas seulement tenté de produire du matériel illégal visant des enfants, mais qu'il avait également cherché à transformer des images d'adultes en contenus sexualisés sans leur consentement.