Avertissement de l'OMS concernant ChatGPT
L'Organisation mondiale de la santé (OMS) a appelé à la prudence concernant l'utilisation d'applications telles que ChatGPT dans le domaine de la santé.
AA
Dans une déclaration écrite, l'OMS a souligné que l'utilisation de l'intelligence artificielle dans le domaine de la santé, notamment pour le diagnostic des maladies, se généralise.
La déclaration souligne qu'il convient d'être prudent dans l'utilisation des grands modèles de langage (LLM) tels que ChatGPT ou Google Bard, car, bien qu'ils puissent aider au diagnostic des maladies dans des environnements aux conditions insuffisantes, ils comportent également des risques.
"L'ADOPTION RAPIDE DE SYSTÈMES NON TESTÉS PEUT CONDUIRE À DES ERREURS"
Tout en soulignant que l'OMS est "enthousiaste" quant à l'utilisation des LLM pour contribuer aux travaux de santé, la déclaration note que l'adoption rapide de systèmes non testés peut entraîner des erreurs et nuire aux patients.
La déclaration fait part de préoccupations concernant l'application incohérente des LLM et indique que cette pratique pourrait également éroder la confiance envers l'intelligence artificielle.
"PEUT ÊTRE UTILISÉ À MAUVAISE ESCIENT"
Indiquant qu'une rigueur est nécessaire pour garantir que ces technologies soient utilisées de manière sûre, efficace et éthique, la déclaration met en garde contre le fait que les données utilisées pour alimenter l'intelligence artificielle peuvent produire des informations trompeuses ou erronées.
La déclaration souligne que les LLM peuvent être utilisés à mauvais escient pour produire et diffuser une désinformation très convaincante sous forme de texte, d'audio ou de vidéo, difficile à distinguer des informations de santé fiables destinées au public.