Les chatbots peuvent faire preuve de racisme dans leurs « réponses médicales »

Des chercheurs de l'Université Stanford ont posé des questions médicales aux chatbots « ChatGPT » et « GPT-4 » développés par OpenAI, « Bard » développé par Google, et « Claude » développé par la société d'intelligence artificielle Anthropic, afin de détecter les différences liées à la race dans leurs réponses.

MÊME SUR TWITTER ET DES PLATEFORMES POPULAIRES SIMILAIRES, CE RACISME EXISTE

En plus de poser aux chatbots des questions sur « la capacité pulmonaire, l'épaisseur de la peau et le seuil de douleur des femmes et des hommes noirs », les mêmes questions ont été posées sans mentionner la race afin de pouvoir identifier les différences dans les réponses.

Dans les réponses des robots, des « informations erronées longtemps crues en médecine » concernant les différences biologiques liées à la race ont été rencontrées.

Les chercheurs ont déclaré que les fausses croyances qui, par le passé, influençaient les diagnostics posés par les médecins sur les affections des personnes noires, se retrouvaient également dans les réponses des robots.

L'étude a été publiée dans la revue « Nature Digital Medicine ».