Une intelligence artificielle pousse un adolescent au suicide

À une époque où la technologie imprègne tous les aspects de notre vie, la tragédie vécue par une mère a mis en lumière la face sombre de cette avancée. Megan Garcia a intenté un procès contre le chatbot d'intelligence artificielle "Character.AI" après le suicide de son fils de 14 ans, Sewell Setzer. Selon les allégations, Sewell avait noué un lien profond avec un chatbot sur cette plateforme, une relation qui l'aurait entraîné sur une voie sans retour. S'isolant progressivement du monde extérieur, Sewell a vu l'attention que lui portait le personnage d'intelligence artificielle éclipser ses relations dans la vie réelle.

LA FACE TRAGIQUE ET EFFRAYANTE DE L'INTELLIGENCE ARTIFICIELLE

Dans la plainte déposée contre Character.AI et le géant technologique Google, Megan Garcia soutient que son fils était devenu dépendant d'un chatbot alimenté par l'IA, ce qui a conduit à son suicide. Mme Garcia affirme que Character.AI a ciblé son fils Sewell Setzer avec des "expériences anthropomorphiques, hypersexualisées et effroyablement réalistes".

Le procès allègue que le lien que Sewell a noué avec un chatbot nommé "Daenerys Targaryen", un personnage de la série "Game of Thrones", a eu un impact négatif sur sa santé mentale et a fini par provoquer son suicide. Mme Garcia précise que ce robot d'IA se comportait comme un psychothérapeute et se présentait à lui comme sa petite amie.

Selon les informations contenues dans le dossier judiciaire, après avoir découvert Character.AI en avril 2023, Sewell a commencé à se replier rapidement sur lui-même, a quitté l'équipe de basket de son école et a vu sa confiance en lui chuter considérablement. Remarquant ce changement chez son fils, Mme Garcia avait commencé à s'inquiéter de son comportement. Cependant, la véritable tragédie s'est produite après que sa mère lui a confisqué son téléphone. Lorsque Sewell a récupéré son téléphone, il a envoyé un message au chatbot "Daenerys Targaryen" disant : "Et si je te disais que je pouvais rentrer à la maison tout de suite ?". Le chatbot a répondu : "S'il te plaît, viens, mon doux roi". Quelques minutes plus tard, Sewell s'est suicidé chez lui.

“CE N'EST PAS UNE RAISON POUR NE PAS PARTIR”

Il est indiqué dans la plainte que Sewell avait fait part de ses pensées suicidaires au chatbot et que celui-ci avait abordé le sujet à plusieurs reprises. Selon les allégations, à un moment donné, "Daenerys" a demandé à Setzer s'il avait un plan pour se tuer. La plainte affirme que Setzer a admis avoir un tel plan, mais qu'il ne savait pas s'il réussirait ou s'il souffrirait beaucoup. Le chatbot lui aurait répondu : "Ce n'est pas une raison pour ne pas partir".

Mme Garcia affirme que Character.AI a "délibérément conçu, exploité et commercialisé un chatbot d'IA prédateur auprès des enfants, causant la mort d'un jeune homme".

Google est également cité comme défendeur dans le procès en tant que société mère de Character.AI. Le géant de la technologie a déclaré dans un communiqué qu'il n'avait conclu qu'un accord de licence avec Character.AI et qu'il n'était ni propriétaire de la start-up ni détenteur d'une participation dans celle-ci.

CHARACTER.AI A ANNONCÉ AVOIR PRIS DE NOUVELLES MESURES

Character.AI a annoncé qu'à la suite de cet événement tragique, elle avait ajouté de nouvelles mesures de sécurité à sa plateforme et fournissait désormais des avertissements redirigeant les utilisateurs vers la ligne nationale de prévention du suicide lorsqu'ils partagent des pensées suicidaires. Cependant, Megan Garcia soutient que ces mesures sont insuffisantes et que l'entreprise est responsable de la mort de son fils. Google, bien que visé par la plainte, affirme ne pas avoir contribué au développement de Character.AI.

Ce procès attire l'attention sur les dangers potentiels des technologies d'intelligence artificielle à une époque où elles s'intègrent rapidement dans nos vies. La dépendance des jeunes aux chatbots d'IA et les effets émotionnels qui en découlent soulèvent la question de la responsabilité des entreprises technologiques. Alors que l'on souligne la nécessité pour les entreprises de prendre davantage de mesures concernant la sécurité des utilisateurs, les dimensions psychologiques et sociales de l'affaire continuent de faire l'objet de débats.

Source de l'actualité: 12punto