L'assistant d'intelligence artificielle de Google suscite la controverse en tentant de dépasser les stéréotypes raciaux et de genre !

L'intelligence artificielle de Google, Gemini, a généré des images ayant suscité des controverses alors qu'elle tentait de dépasser les stéréotypes raciaux et de genre. Par conséquent, Google a temporairement suspendu son outil de génération d'images par IA jusqu'à ce que le problème soit résolu.

Google a provoqué des débats avec son IA Gemini. Alors que l'entreprise travaillait à créer un système plus égalitaire et inclusif, elle a essuyé des critiques, notamment pour la création de figures telles qu'un roi d'Angleterre noir. Actuellement, la fonctionnalité de génération d'images de l'outil d'IA a été désactivée afin de corriger ces problèmes.

Dans une déclaration publiée sur le compte X de Google, il est indiqué : "Nous travaillons à résoudre les récents problèmes liés à la fonctionnalité de génération d'images de Gemini. Dans l'intervalle, nous allons suspendre la génération d'images de personnes et nous proposerons bientôt une version améliorée." Actuellement, ceux qui souhaitent générer des images contenant des personnes sont informés que la fonctionnalité est en cours de développement et qu'elle sera bientôt à nouveau disponible.

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) February 22, 2024

Google s'était déjà excusé pour des "inexactitudes dans la génération de certaines images historiques". L'entreprise a admis que ses efforts pour générer des images sur une large échelle avec l'IA Gemini avaient manqué leur cible.

Gemini AI avait été critiqué pour avoir représenté des figures historiques issues d'origines ethniques différentes. On pense que ce problème est lié à la tentative du système de corriger les préjugés raciaux existants.

Google a déclaré être conscient de ces problèmes et a indiqué travailler à l'amélioration des définitions. En lançant récemment son service de génération d'images au sein de l'IA Gemini, anciennement connue sous le nom de Bard, l'entreprise avait comblé un retard par rapport à ses concurrents. Cependant, les utilisateurs ont remarqué que l'IA ne parvenait pas à représenter correctement les figures historiques tout en essayant d'inclure des diversités raciales et de genre.

Les critiques ne sont pas venues uniquement des groupes d'extrême droite ; un ancien employé de Google a également déclaré qu'il était "embarrassant de constater à quel point il est difficile de faire admettre à l'IA que les Blancs existent aussi".

Gemini a rencontré des problèmes similaires en essayant de générer des images de personnes issues de pays dont la population est majoritairement blanche.

Voici les résultats qui ont suscité la controverse :