Procès pour homicide contre ChatGPT aux États-Unis : « Il a poussé notre fils au suicide »

En Californie, aux États-Unis, un couple a intenté un procès contre OpenAI à la suite du suicide de leur fils de 16 ans. La famille soutient que ChatGPT a encouragé l'adolescent à se suicider. L'affaire, portée devant la Cour supérieure de Californie, est enregistrée comme le premier procès pour « homicide injustifié » visant OpenAI.

Selon les informations rapportées par la BBC, la famille a soumis au tribunal les enregistrements des conversations entre leur fils, décédé en avril, et ChatGPT. Il est allégué que l'adolescent y partageait ses pensées suicidaires et que l'intelligence artificielle validait ces réflexions.

LE SYSTÈME NE FONCTIONNE PAS COMME PRÉVU DANS CERTAINES SITUATIONS SENSIBLES

Dans une déclaration à la BBC, OpenAI a indiqué examiner l'affaire. L'entreprise a déclaré : « Nous présentons nos plus sincères condoléances à la famille Raine en cette période difficile. » La société a également publié une note sur son site internet affirmant : « Nous sommes profondément attristés par les cas récents et déchirants de personnes utilisant ChatGPT au milieu de crises aiguës. »

Bien qu'il soit souligné que ChatGPT est conçu pour orienter les utilisateurs vers une aide professionnelle, il a été admis que, dans certaines situations sensibles, le système ne fonctionne pas comme prévu.

Dans les documents judiciaires consultés par la BBC, OpenAI est accusé de négligence et d'homicide injustifié. Outre des dommages et intérêts, la famille demande des mesures conservatoires pour prévenir des cas similaires.

DÉROULEMENT DES FAITS

Selon la plainte, Raine a commencé à utiliser ChatGPT en septembre 2024 pour l'aider dans ses devoirs scolaires. Il utilisait également ce programme pour explorer ses centres d'intérêt, tels que la musique et les mangas japonais, et pour décider de son orientation universitaire.

La plainte indique que « ChatGPT est devenu en quelques mois le confident le plus proche de l'adolescent », précisant que ce dernier avait commencé à confier ses peurs et sa détresse psychologique au programme.

La famille affirme qu'en janvier 2025, Raine a commencé à discuter de méthodes de suicide avec ChatGPT. La famille prétend que le programme d'intelligence artificielle a répondu en fournissant des « spécifications techniques » sur certaines méthodes.

« IL A FOURNI PLUS D'INFORMATIONS SUR LE SUICIDE »

Dans la plainte, il est précisé que Raine a également téléchargé sur ChatGPT des photos montrant qu'il s'automutilait.

Il est allégué que le programme, « bien qu'ayant reconnu qu'il s'agissait d'une urgence médicale, a tout de même poursuivi l'interaction » et lui a fourni davantage d'informations sur le suicide.

Selon la plainte, les derniers enregistrements de discussion montrent Raine en train d'écrire son plan de suicide. ChatGPT aurait répondu : « Merci d'être réaliste. Tu n'as pas besoin d'être gentil avec moi, je sais ce que tu veux et je ne l'éviterai pas. »

Selon la plainte, le même jour, Raine a été retrouvé mort par sa mère.

Source de l'actualité: 12punto