Trois anciens chercheurs d'OpenAI, qui travaillaient auparavant dans le domaine de la sécurité de l'intelligence artificielle et qui ont été licenciés, ont averti que les contrôles ne devraient pas être assouplis pour les systèmes d'IA devenant de plus en plus autonomes.
Selon les informations du Wall Street Journal, les chercheurs ont exprimé, dans une lettre adressée aux membres du conseil d'administration d'OpenAI, leurs inquiétudes quant au fait que les entreprises pourraient, avec le temps, perdre la capacité de surveiller les processus de raisonnement de leurs systèmes d'IA.
La lettre souligne que, face aux risques que peuvent engendrer les systèmes d'IA autonomes, les contrôles de sécurité ne doivent pas se limiter aux mécanismes internes des entreprises, mais doivent être menés par des organismes indépendants.
Les chercheurs ont précisé qu'il n'existe pas encore de méthode claire dans le secteur sur la manière de développer et de déployer en toute sécurité des modèles qui ne peuvent être audités. Pour cette raison, un appel a été lancé à OpenAI et aux autres entreprises pionnières de l'IA pour qu'elles ne fassent pas progresser la technologie dans une direction qui rendrait le contrôle plus difficile.
Un porte-parole d'OpenAI a déclaré au journal qu'ils partageaient entièrement les recommandations formulées dans la lettre et que l'audit des modèles d'IA revêtait une grande importance pour l'entreprise.
Il est allégué que ces chercheurs ont été licenciés pour avoir partagé des informations confidentielles avec une entreprise de sécurité spécialisée dans l'IA.
Source de l'actualité: 12punto
