OpenAI et son PDG Sam Altman poursuivis en justice
En Floride, un prêtre a intenté un procès à OpenAI et à son PDG Sam Altman, affirmant que les conseils de santé prodigués par le chatbot ChatGPT ont retardé son traitement et mis sa vie en danger. Le dossier judiciaire allègue que les mécanismes d'alerte du système sont insuffisants.
12punto
Un membre du clergé nommé Scott Winters, résidant dans l'État américain de Floride, a engagé des poursuites judiciaires en affirmant avoir couru un risque grave en raison des conseils de santé reçus de la populaire application de chatbot basée sur l'intelligence artificielle, ChatGPT. Dans le procès qui se tiendra en Californie, M. Winters accuse OpenAI et le directeur général de l'entreprise, Sam Altman, de « conseil médical non autorisé » et de négligence.
Selon la plainte, M. Winters a posé diverses questions à ChatGPT en 2024 concernant ses problèmes de santé. Le prêtre a affirmé qu'au début, le chatbot lui recommandait de consulter un médecin, mais qu'avec le temps, il a cessé ces avertissements pour commencer à formuler des recommandations directes. La requête indique que l'intelligence artificielle a minimisé les troubles de santé de M. Winters, qui s'aggravaient progressivement, retardant ainsi son admission à l'hôpital.
Après avoir souffert de douleurs intenses quelque temps plus tard, M. Winters s'est rendu à l'hôpital où une embolie pulmonaire a été diagnostiquée, ce qui a nécessité son transfert en soins intensifs. M. Winters soutient que ce danger vital est survenu en raison des contrôles de sécurité et des systèmes d'alerte inadéquats de ChatGPT.
Le dossier judiciaire allègue que le chatbot développé par OpenAI peut fournir des orientations erronées en matière de santé et inciter les utilisateurs à se fier au contenu de l'intelligence artificielle plutôt qu'à un soutien professionnel, soulignant que l'entreprise n'a pas pris les mesures nécessaires.
Dans une déclaration, OpenAI a rappelé que les conditions d'utilisation de ChatGPT stipulent clairement que l'outil ne peut être utilisé pour des diagnostics ou des traitements médicaux, ajoutant : « Parallèlement, nous apportons des améliorations constantes pour rendre les réponses aux questions des utilisateurs sur la santé aussi sûres que possible. »
Alors qu'il est souligné à chaque occasion que les conseils obtenus via ChatGPT ne peuvent remplacer un traitement médical, les experts affirment également que ces solutions d'intelligence artificielle ne doivent pas être considérées comme des guides dans le domaine de la santé, mais tout au plus comme des sources d'information.
Il est prévu que cette procédure judiciaire conduise à un débat plus rigoureux sur les limites de responsabilité des applications d'intelligence artificielle dans des domaines sensibles tels que la santé.