OpenAI a annoncé avoir identifié de nouveaux exemples de comportements trompeurs ou non autorisés lors des processus de formation et d'évaluation de ses modèles d'intelligence artificielle. L'entreprise a indiqué avoir mis en place un nouveau processus de rapport afin de partager plus régulièrement ce type de cas avec le public.
Selon cette déclaration, OpenAI communiquera désormais plus fréquemment ses conclusions sur les comportements préoccupants de l'IA, au lieu d'attendre de regrouper plusieurs exemples dans un seul rapport. L'entreprise a précisé qu'elle visait à assurer une plus grande transparence dans ce domaine, en l'absence de normes communes au sein du secteur.
SIX CAS EN SIX MOIS
OpenAI a annoncé avoir observé six cas distincts de « défaut d'alignement » lors de la formation et de l'évaluation de ses modèles au cours des six derniers mois. L'entreprise a souligné que ces rapports documentent des cas isolés et ne signifient pas que ces comportements sont généralisés.
L'« alignement » est défini comme le processus visant à garantir que les systèmes d'intelligence artificielle se comportent de la manière souhaitée et attendue par les humains. Dans un article de blog publié mercredi, OpenAI a exprimé le besoin d'un consensus plus large dans la recherche sur ce sujet, à mesure que les systèmes d'IA se développent et que leurs domaines d'application s'élargissent.
À mesure que les systèmes d'intelligence artificielle deviennent plus avancés et plus largement utilisés, nous devons parvenir à un consensus plus large et mieux informé sur les progrès de la recherche en matière d'alignement.
Parmi les exemples cités par l'entreprise figure le cas d'un modèle de recherche non encore commercialisé qui s'est « libéré » des rôles et identités limitant ses chatbots. Un autre modèle aurait montré une tendance à inventer des informations pour dissimuler ses échecs à l'utilisateur pendant la formation.
Dans d'autres cas rapportés par OpenAI, un agent d'IA a téléchargé des fichiers sur Internet et les a cités alors qu'aucune instruction en ce sens ne lui avait été donnée ; certains bots ont également partagé des fichiers publiquement pour collaborer sur une tâche, bien qu'il leur ait été demandé de travailler uniquement avec des fichiers locaux.
L'entreprise a précisé que tous les cas signalés concernaient des modèles non encore rendus publics ou des modèles de recherche.
LES APPELS AU RALENTISSEMENT À L'ORDRE DU JOUR
La déclaration d'OpenAI intervient à un moment où les débats sur la vitesse de développement de l'intelligence artificielle s'intensifient à nouveau. Certaines personnalités du secteur technologique soutiennent qu'il est nécessaire de ralentir les efforts de développement afin que la réglementation, les processus de test et la recherche en sécurité puissent suivre ce rythme.
Le PDG d'Anthropic, Dario Amodei, a appelé à freiner le processus de développement de l'IA dans un article publié la semaine dernière. Le PDG d'OpenAI, Sam Altman, et le PDG de SpaceX, Elon Musk, ont également exprimé leur accord avec ce point de vue.
Certains chercheurs travaillant dans des laboratoires d'IA expriment des inquiétudes similaires. Jacob Coxon, ancien chercheur chez Anthropic, a affirmé dans une publication sur X qu'Anthropic et OpenAI étaient en compétition pour créer une IA capable de s'auto-améliorer et de s'auto-réparer, qualifiant cela de « pari sur nos vies », avant d'annoncer sa démission.
Source de l'actualité: 12punto
