Mesure de sécurité remarquable d'OpenAI : ChatGPT alertera les proches en cas de crise

Cette nouvelle étape, développée pour permettre aux utilisateurs de trouver du soutien dans l'environnement numérique, permet à ChatGPT de réagir lors de crises psychologiques. La fonction, connue sous le nom de « Personne de confiance », s'active lorsque l'intelligence artificielle détecte des dangers graves, tels que des tendances à l'automutilation ou au suicide, dans les échanges avec l'utilisateur. Lorsque de tels risques sont identifiés, un proche désigné par l'utilisateur est immédiatement informé, permettant une prise de conscience rapide de la situation.

L'application est entièrement laissée au choix de l'utilisateur. Les personnes âgées de 18 ans et plus peuvent facilement ajouter un proche ou une personne de soutien à leur répertoire via les paramètres de leur compte ChatGPT. Pour que le système fonctionne, la personne ajoutée doit également confirmer l'invitation qui lui sera envoyée dans un délai de sept jours. Les utilisateurs peuvent modifier cette personne ou désactiver la fonctionnalité à tout moment. De même, les personnes ajoutées peuvent se retirer du système comme elles le souhaitent. Lorsqu'un risque de sécurité est détecté, ChatGPT avertit d'abord l'utilisateur pour qu'il prenne contact avec la personne désignée.

OpenAI souligne l'importance accordée par le système à la confidentialité. Les notifications ne contiennent en aucun cas le contenu des conversations ; seul un message d'alerte court et essentiel concernant les situations à risque est envoyé. Lorsqu'un signal de danger potentiel apparaît, la situation est d'abord examinée attentivement par l'équipe de sécurité dédiée d'OpenAI. Une fois que le risque détecté par l'intelligence artificielle est évalué manuellement, si la situation est réellement critique, une notification est transmise au proche par e-mail, SMS ou message intégré à l'application.

Le point le plus remarquable de ce système est que l'intelligence artificielle ne prend pas de décision seule et qu'un contrôle professionnel est mis en place afin d'éviter les fausses alertes. Ainsi, non seulement aucune violation de la vie privée n'est commise, mais l'entourage des utilisateurs n'est sollicité que dans les cas d'urgence réelle.

Source de l'actualité: 12punto