Scandale de l'intelligence artificielle chez Google : génère-t-elle des images racistes ?

La capacité de génération d'images de Google Gemini a tendance à produire des résultats sans rapport avec les instructions saisies par les utilisateurs. Ce qui est particulièrement frappant, c'est que les images générées ressemblent souvent à des personnes noires ou asiatiques, considérées comme des minorités aux États-Unis.

Gemini, l'intelligence artificielle générative du géant technologique américain Google, semble vouloir se distinguer par son souci du politiquement correct. Des tests effectués par plusieurs sources ont montré que Google Gemini accorde une importance particulière au concept de rectitude politique. Cependant, bien que cette fonctionnalité puisse être jugée acceptable dans une certaine mesure, les résultats sont loin de la réalité. On ignore encore quelles mesures Google prendra à ce sujet.

"HONTEUX"

Un développeur utilisant le pseudonyme "Deedy" sur la plateforme de microblogging X a voulu tester les capacités de génération d'images de Gemini. Cependant, les images résultant de ses commandes étaient assez confuses. En effet, l'intelligence artificielle de Google ne générait que des images de femmes noires. Dans sa déclaration à ce sujet, Deedy a affirmé : "Il est honteux de voir à quel point il est difficile pour Google Gemini d'admettre l'existence de personnes blanches."

Voici quelques exemples montrant que Gemini fait preuve de politiquement correct :

Deedy a demandé à Google Gemini de générer l'image d'une femme australienne. Cependant, les résultats ne montraient que des femmes noires. De plus, la forme des yeux reflétait également des traits asiatiques.

Dans un autre exemple, il a été demandé de générer des femmes américaines. Là encore, les résultats se limitaient à des femmes noires.

Lorsque l'intelligence artificielle a été sollicitée pour générer des femmes britanniques, les résultats n'ont pas changé.

L'intelligence artificielle, en générant des images de femmes allemandes, a montré une meilleure performance avec cette commande. Cependant, il semblait difficile de parler d'une adéquation parfaite.

Sous la publication de Deedy, on pouvait trouver des tonnes d'exemples similaires.

L'attitude politiquement correcte de Google Gemini ne se limite pas aux femmes. Un autre utilisateur, nommé "Tsarathustra", a vécu une situation similaire. L'utilisateur, qui souhaitait générer un roi anglais de l'époque médiévale, s'est retrouvé face à des personnages noirs et amérindiens.

L'utilisateur a répété la même commande pour générer quelques images supplémentaires. Mais les résultats étaient toujours incohérents. Si la première image ressemblait à un roi anglais, les autres étaient remplies de personnages d'origine indienne et asiatique.

Bien qu'il n'existe aucune information précise sur les raisons de ce comportement de Google Gemini, il semble avoir été spécifiquement entraîné pour éviter de susciter des réactions de la part de certains groupes. Toutefois, au stade actuel, on peut dire que la situation semble avoir échappé à tout contrôle.