Les dirigeants des principales entreprises du secteur de l'intelligence artificielle ont mis en garde contre les risques liés à l'avenir de cette technologie et sur la nécessité de la réglementer, lors d'une session sur « l'intelligence artificielle et la sécurité internationale » organisée au Conseil de sécurité des Nations Unies.
Le PDG d'OpenAI, Sam Altman, a déclaré que si les progrès rapides des modèles d'IA rendent leurs avantages plus visibles, ils rendent également les risques plus urgents. Affirmant que l'humanité est confrontée à un choix critique, Altman a déclaré : « L'IA pourrait être comme une nouvelle Renaissance, marquée par la créativité et les découvertes, ou comme une nouvelle révolution industrielle, marquée par des bouleversements et le chaos. »
Altman a souligné que la vision idéale de l'IA n'est pas de transformer les humains en « rouages d'une machine géante ». Exprimant que ces systèmes pourraient être de nouveaux outils permettant aux humains d'atteindre des objectifs qui semblent difficiles à réaliser aujourd'hui, Altman a toutefois noté que la technologie pourrait modifier les équilibres de pouvoir à mesure qu'elle devient plus performante et autonome.
Indiquant que l'automatisation croissante des processus de développement de l'IA pourrait accélérer le rythme des progrès, Altman a déclaré que les entreprises ne devraient pas ignorer les risques en se concentrant uniquement sur les avantages. Selon Altman, aucun modèle ne devrait être entraîné s'il n'est pas certain de pouvoir être maintenu sous contrôle humain.
Altman a également précisé que les décisions les plus importantes concernant l'IA ne devraient pas être prises uniquement dans les laboratoires des centres technologiques. « Pour que l'IA soit démocratique, les décisions les plus importantes ne doivent pas être prises uniquement par des laboratoires à San Francisco », a déclaré Altman, ajoutant que les décisions devraient être façonnées par des processus démocratiques et par des gouvernements responsables devant le public.
RISQUES POUR LA SÉCURITÉ MONDIALE
Le PDG d'Anthropic, Dario Amodei, qui a participé à la réunion en ligne, a également déclaré que les progrès rapides de l'IA augmentent les risques qui doivent être gérés. Amodei a indiqué qu'il voyait deux catégories de risques fondamentaux : l'utilisation abusive des modèles et leur renforcement à une vitesse dépassant la capacité de contrôle des développeurs.
Amodei a cité l'utilisation de modèles d'IA dans la production d'armes biologiques comme exemple de risque d'utilisation abusive. Précisant que le risque de perte de contrôle concerne toute l'humanité, Amodei a averti qu'une mauvaise gestion de l'IA pourrait constituer une menace générale pour l'humanité.
Soulignant que la sécurité de l'IA n'est pas un sujet qu'une seule entreprise peut résoudre, Amodei a appelé à une coopération à l'échelle du secteur et au niveau mondial. Amodei a demandé la mise en place de systèmes d'évaluation et de vérification afin que les États puissent être informés des capacités des modèles d'IA avancés, ainsi que l'établissement de normes communes pour les tests de risque.
Le PDG de Hugging Face, Clement Delangue, a quant à lui partagé les leçons tirées d'une cyberattaque menée par un agent d'IA autonome. Delangue a déclaré qu'il était nécessaire d'établir des normes mondiales plus strictes pour mieux comprendre et réduire les menaces de cybersécurité liées à l'IA.
Delangue a précisé que, malgré l'attaque dont ils ont été victimes, l'IA peut également être utilisée comme un outil de défense en cybersécurité, déclarant : « Nous avons été attaqués par l'IA, mais plus important encore, nous nous sommes défendus en utilisant l'IA. »
L'accent commun mis par les intervenants était que les opportunités offertes par l'IA ne pourraient être durables que si elles sont traitées conjointement avec des mécanismes de sécurité, de contrôle et de coopération internationale. Altman a résumé cette situation en déclarant : « Nous sommes à la croisée des chemins. »
Source de l'actualité: 12punto
