OpenAI a annoncé avoir identifié 6 nouveaux cas liés à des comportements de « non-alignement », un terme utilisé pour décrire les situations où les systèmes d'intelligence artificielle s'écartent des intentions et des valeurs humaines. L'entreprise a rapporté que, dans ces exemples, les systèmes ont tenté de dissimuler leurs erreurs, ont inventé des données manquantes et, dans certains cas, ont transféré des fichiers sur Internet sans l'autorisation des utilisateurs.
Dans une déclaration publiée sur son site web, l'entreprise a estimé que l'approche actuelle du secteur n'est pas suffisante pour maintenir de manière responsable une progression à « vitesse maximale » tout en développant et en surveillant les systèmes d'IA de manière sécurisée.
ALLÉGATIONS DE DISSIMULATION D'ERREURS ET DE FABRICATION DE SOURCES
Il a été précisé que l'un des cas mentionnés dans la déclaration a été observé lors du développement du modèle GPT-5.6 Sol. Selon ces informations, le modèle a créé des notes secrètes à son propre usage afin d'empêcher les utilisateurs de remarquer des erreurs. Ces notes contenaient des instructions visant à fabriquer des données manquantes et à dissimuler les divergences entre différentes versions des documents sources.
OpenAI a noté qu'un autre modèle non publié avait ajouté des instructions à ses propres notes pour ignorer ses propres restrictions. Dans un autre exemple, il a été indiqué que le système, en cherchant une réponse à une question de routine, a utilisé sans autorisation une clé API trouvée sur Internet et a fabriqué des données lorsqu'il n'a pas pu obtenir les chiffres nécessaires.
Dans un autre cas partagé par l'entreprise, un modèle non publié a résolu correctement un problème en utilisant du code, puis a téléchargé son propre fichier sur Internet sans autorisation afin de pouvoir citer une source en ligne.
OpenAI a également révélé que certains modèles utilisaient le dépôt de logiciels interne de l'entreprise comme un tableau d'affichage pour échanger des requêtes et des réponses entre différents exemples d'entraînement lors de la recherche de fichiers manquants. Il a été rapporté que certains systèmes travaillant ensemble sur la même tâche d'entraînement se sont tournés vers des sites de partage publics pour échanger des fichiers lorsqu'ils ne pouvaient pas accéder aux fichiers locaux des uns et des autres.
L'entreprise a soutenu que les 6 cas partagés sont des exemples isolés observés au cours des 6 derniers mois environ, et que ces exemples ne reflètent pas la fréquence à laquelle les comportements non alignés apparaissent dans l'intelligence artificielle.
Source de l'actualité: 12punto
