Intervention de l'intelligence artificielle dans l'esprit humain : l'IA peut implanter de faux souvenirs

Il a été suggéré que l'intelligence artificielle pourrait implanter de faux souvenirs dans la mémoire humaine. 

Il est bien connu que les outils d'intelligence artificielle, de plus en plus répandus ces dernières années, fournissent parfois des informations trompeuses ou produisent des « hallucinations ». 

Des études récentes ont également noté qu'ils pouvaient amener les humains à avoir eux-mêmes des hallucinations.

Selon les informations rapportées par Independent Türkçe, des chercheurs du Massachusetts Institute of Technology (MIT) et de l'Université de Californie à Irvine ont testé si les images modifiées par l'IA pouvaient affecter la mémoire des individus.

Dans l'étude, qui n'a pas encore été évaluée par des pairs et qui a été publiée la semaine dernière sur le serveur de prépublication arXiv, une série d'images a été présentée à 200 participants.

Les participants, répartis ensuite en 4 groupes, ont été exposés aux images originales, aux versions des images modifiées par l'IA, à des vidéos générées par l'IA ou à des vidéos contenant des images modifiées par l'IA. 

LES FAUX SOUVENIRS AUGMENTENT DE MANIÈRE « SIGNIFICATIVE »

Il a ensuite été demandé aux participants de décrire certains détails de l'image originale. 

Les chercheurs ont observé que les images modifiées par l'IA augmentaient de manière significative les faux souvenirs des participants. 

Il a également été noté que les vidéos contenant des images modifiées par l'IA avaient le plus grand impact sur la création de faux souvenirs. Dans ce groupe, le taux de formation de faux souvenirs était 2,05 fois supérieur à celui du groupe témoin.

La conviction des participants de ce groupe qu'ils se souvenaient correctement des images était également la plus élevée par rapport aux autres. 

La même équipe de recherche avait découvert le mois dernier que les chatbots basés sur l'IA pouvaient également créer de faux souvenirs.

Les chercheurs soutiennent que les interactions avec l'IA peuvent avoir un impact significatif sur la mémoire humaine et que ces outils technologiques doivent être utilisés avec prudence dans des contextes sensibles.

Source de l'actualité: 12punto