Allégations sur la création d'un organisme de contrôle commun pour l'IA chez Anthropic, Google et OpenAI

Alors que les débats sur la vitesse de développement et la régulation des modèles d'intelligence artificielle se poursuivent aux États-Unis, il est allégué que l'option d'un nouvel organisme de normalisation est à l'ordre du jour parmi les entreprises leaders du secteur.

Selon les informations de CNN basées sur des sources anonymes, Anthropic, Google et OpenAI évaluent la possibilité de créer un organisme dirigé par les entreprises elles-mêmes afin de définir des normes sectorielles pour les modèles d'IA.

Les sources ont précisé que ces discussions ont pris de l'ampleur non pas à la suite de la démission du chercheur d'Anthropic Jacob Coxon, mais après l'article rédigé en juillet par Demis Hassabis, cofondateur de Google DeepMind, dans lequel il proposait la création d'un organisme de normalisation de l'IA sous l'égide des États-Unis.

Dans le modèle proposé par Hassabis, il était prévu que l'organisme soit géré sous la supervision du gouvernement, en coopération avec les secteurs public et privé, et que les modèles d'IA avancés soient testés avant d'être mis à disposition du public.

DÉBAT SUR LA SÉCURITÉ ET LA VITESSE

Au cœur du débat se trouve l'inquiétude que le développement de plus en plus rapide des systèmes d'IA puisse dépasser la capacité des entreprises à comprendre, contrôler et surveiller les risques de sécurité liés à ces systèmes.

Le PDG d'Anthropic, Dario Amodei, a soutenu dans un article publié le 12 septembre que la vitesse de développement de la technologie de l'IA devait être ralentie afin de laisser plus de place au contrôle. Amodei a exprimé que les entreprises devaient se réunir pour établir des normes de sécurité et créer certaines règles concernant la vitesse de mise sur le marché des modèles.

L'initiative d'Amodei a également reçu le soutien du monde technologique. Elon Musk a déclaré « Dario a raison » dans une publication sur son compte X. Le PDG d'OpenAI, Sam Altman, a également noté qu'il était d'accord avec la proposition et qu'il prendrait une mesure similaire concernant l'évaluation indépendante.

Les sources ayant parlé à CNN ont affirmé que ces discussions se poursuivent et continueront, que l'administration du président américain Donald Trump soit impliquée dans le processus ou non. Cependant, il a également été précisé que tous les leaders du secteur technologique ne sont pas sur la même longueur d'onde quant à la manière dont l'IA devrait être régulée.

Amodei a également soutenu que l'administration américaine devrait renforcer les restrictions sur les exportations de puces vers la Chine et empêcher les laboratoires d'IA en Chine d'obtenir des données à partir des modèles des entreprises américaines par la méthode de « distillation ». Dans une interview accordée à CBS News, le PDG d'Anthropic a exprimé que le dilemme le plus difficile dans la proposition de ralentir l'IA est la possibilité que la Chine et d'autres pays concurrents n'agissent pas dans la même direction.

Source de l'actualité: 12punto