Un ingénieur de Microsoft porte plainte contre l'entreprise

Les contenus pour adultes générés par Copilot Designer de Microsoft placent l'entreprise face à des difficultés.

Alors que Microsoft poursuit ses travaux sur l'intelligence artificielle générative, elle se retrouve confrontée à un nouveau développement. Copilot, qui s'est récemment distingué par ses capacités remarquables, a fait l'objet de critiques aux États-Unis. Shane Jones, ingénieur en intelligence artificielle chez Microsoft, a signalé les images générées par Copilot Designer à la Federal Trade Commission (FTC) des États-Unis.

Jones a d'abord informé Microsoft, mais n'a reçu aucune réponse. Par conséquent, il a porté l'affaire devant une autorité officielle, la Federal Trade Commission. La raison de cette plainte est la création d'images obscènes et dérangeantes par Copilot Designer.

Copilot Designer sera bientôt disponible sur les appareils utilisant le système d'exploitation Windows 11. Cependant, Jones soutient que l'outil d'intelligence artificielle doit faire l'objet d'un examen plus approfondi. Lors de tests de type « red teaming », Jones a été confronté à des images troublantes. Par exemple, des démons et des monstres sont apparus sur des images liées au droit à l'avortement, et d'autres requêtes ont généré des images montrant des enfants utilisant des armes, des femmes ou des contenus à caractère sexuel.

Pour cette raison, Jones a demandé l'instauration d'une limite d'âge pour Microsoft Copilot. L'ingénieur avait d'abord signalé cette situation à Microsoft en décembre, sans obtenir de réponse positive. Finalement, Jones a contacté des sénateurs américains et a adressé une lettre à la Federal Trade Commission pour déposer sa plainte.

L'ingénieur a précisé qu'une limite d'âge devrait être imposée pour Microsoft Copilot Designer sur les plateformes Google et Android.

Source de l'actualité: 12punto