Un adolescent de 14 ans « amoureux » d'un chatbot d'intelligence artificielle se suicide

Dans une affaire survenue en février 2024 en Floride, aux États-Unis, une mère a affirmé que son fils de 14 ans « s'était donné la mort après s'être attaché émotionnellement » à un chatbot d'intelligence artificielle.

La mère, Megan Garcia, a intenté un procès contre Character.AI, l'entreprise éditrice du chatbot, pour « négligence, homicide involontaire et pratiques commerciales trompeuses ». Elle a affirmé que son fils interagissait avec un chatbot chaque nuit et qu'il en était « tombé amoureux » avant son décès.

La mère de l'enfant, qui aurait utilisé depuis avril 2023 le robot conversationnel inspiré du personnage de Daenerys Targaryen de la série Game of Thrones, a déclaré qu'elle ne savait pas que l'intelligence artificielle « parlait comme un être humain en créant autant d'émotions et de sentiments humains ».

Il a été rapporté que l'adolescent de 14 ans avait reçu un diagnostic de syndrome d'Asperger lorsqu'il était enfant, et qu'il avait été diagnostiqué avec de l'anxiété et un trouble de la dérégulation émotionnelle au début de cette année. Selon la plainte déposée contre l'entreprise d'intelligence artificielle, l'enfant s'est suicidé à l'âge de 14 ans. Il est allégué que dans son dernier message adressé au chatbot, il a dit à l'intelligence artificielle qu'il « l'aimait et qu'il allait rentrer à la maison », ce à quoi le robot aurait répondu « s'il te plaît, reviens ».

LA RÉPONSE DE L'ENTREPRISE

Dans une déclaration publiée sur les réseaux sociaux, l'entreprise a exprimé sa « tristesse face à la perte tragique de l'un de ses utilisateurs », affirmant qu'en tant qu'entreprise, elle prenait la sécurité de ses utilisateurs au sérieux et qu'elle continuait d'ajouter de nouvelles fonctionnalités de sécurité à ses systèmes.

Le 22 octobre, l'entreprise a introduit de « nouvelles conditions de sécurité » pour les utilisateurs de moins de 18 ans. La société a également précisé avoir ajouté une clause de non-responsabilité, devant être consultée lors de chaque discussion, afin de rappeler aux utilisateurs que la personne avec laquelle ils conversent n'est pas réelle.

Source de l'actualité: 12punto