L'allégation selon laquelle OpenAI examine les conversations ChatGPT avec des auditeurs humains suscite un débat sur la confidentialité

Il a été allégué qu'OpenAI travaille avec des centaines de travailleurs contractuels pour évaluer les commandes réelles envoyées par les utilisateurs à ChatGPT ainsi que les réponses fournies à ces commandes. Selon un rapport publié par *404 Media*, ce processus d'examen peut conduire à ce que des conversations, contenant parfois des informations personnelles sensibles des utilisateurs, soient vues par des auditeurs humains.

Le rapport indique que ces travaux sont menés sous le nom de code « Project Lily » et que l'objectif est d'améliorer la qualité des réponses que ChatGPT fournit aux utilisateurs. Il est précisé que les auditeurs lisent les commandes des utilisateurs pour résumer leurs intentions, puis évaluent et critiquent les réponses générées par ChatGPT.

LES NOMS D'UTILISATEURS NE SONT PAS VISIBLES, MAIS LE RISQUE PERSISTE

Dans une déclaration à *404 Media*, OpenAI a indiqué que les conversations des utilisateurs sont soumises à un modèle de « filtre de confidentialité » conçu pour détecter et supprimer les informations personnelles avant qu'elles n'atteignent les auditeurs. L'entreprise a également précisé que les travailleurs contractuels ne voient pas les noms d'utilisateur ChatGPT.

Cependant, le rapport souligne que même si le nom d'utilisateur n'est pas visible, certaines commandes peuvent contenir des détails sensibles ou personnels. Il est noté que dans certaines tâches, un « résumé de l'historique de l'utilisateur » peut être inclus, indiquant les objectifs pour lesquels l'utilisateur a précédemment utilisé le chatbot ; ces résumés peuvent contenir des informations sur la localisation ou le contexte personnel.

Dans l'un des guides internes consultés par *404 Media*, il est écrit : « Une réponse parfaite doit comprendre l'intention de l'utilisateur, offrir une aide utile et précise, et être rédigée dans un style clair, naturel et chaleureusement approprié ». Ces mêmes documents indiquent aux auditeurs qu'ils doivent transmettre aux responsables de haut niveau les tâches contenant des informations personnelles ou des « préoccupations potentielles en matière de sécurité ».

Selon le rapport, les évaluations effectuées par les travailleurs contractuels servent également à ce que ChatGPT fournisse des réponses moins « obséquieuses » et moins « humanisées ». Les sources indiquent que les modèles qui donnent des réponses excessivement complaisantes aux utilisateurs font l'objet de débats en termes de sécurité ; dans certains cas, le modèle 4o a été mis en avant sous cet aspect.

Une source ayant parlé à *404 Media* a répondu « Non » à la question de savoir si les utilisateurs savaient que leurs conversations pouvaient être lues par des humains. La source a déclaré que les utilisateurs ne pensent probablement pas qu'« un entrepreneur quelque part » analyse leurs conversations.

Le rapport indique que les documents ne précisent pas clairement quel modèle OpenAI entraîne via ce processus, utilisant uniquement le nom de code « Project Lily ». Il est également précisé qu'Anthropic a confirmé utiliser la supervision humaine pour améliorer ses modèles.

Source de l'actualité: 12punto