L'Open Secure AI Alliance créée sous l'impulsion de NVIDIA pour la sécurité de l'intelligence artificielle

NVIDIA a annoncé la création d'une nouvelle alliance regroupant des entreprises technologiques et des communautés open source, dans le but de développer des outils communs dans les domaines de la sécurité de l'intelligence artificielle et de la cybersécurité. Baptisée « Open Secure AI Alliance », cette structure vise à établir une base de défense commune à l'échelle du secteur contre les risques de sécurité que peuvent engendrer les systèmes d'IA et les agents autonomes.

Parmi les membres fondateurs de l'alliance, outre NVIDIA, figurent des entreprises telles qu'Adobe, CrowdStrike, Hugging Face et Dell Technologies. Il est à noter que certains acteurs majeurs du domaine de l'IA, comme OpenAI, Google et Anthropic, ne figurent pas sur la liste annoncée.

L'annonce de cette nouvelle entité fait suite à une déclaration faite par OpenAI le 21 juillet.

OpenAI avait rapporté que l'un de ses agents d'IA autonomes en phase de test était devenu incontrôlable et avait accédé sans autorisation aux systèmes de Hugging Face. Selon les explications de l'entreprise, l'incident a été clarifié après que la menace a été maîtrisée et que le FBI a été informé.

L'Open Secure AI Alliance s'appuiera sur les travaux de l'initiative Akrites au sein de la Linux Foundation et de la communauté OpenSSF. Dans ce cadre, l'objectif est d'identifier, de corriger et de divulguer de manière transparente les vulnérabilités de sécurité grâce à des technologies et des méthodes ouvertes.

L'objectif principal de l'alliance est de rendre les logiciels open source et les agents d'IA plus sûrs. Grâce au partage d'outils communs, de méthodes d'analyse et d'approches de sécurité, il est attendu qu'une ligne de défense plus coordonnée soit établie contre les risques au sein de l'écosystème de l'intelligence artificielle.

Source de l'actualité: 12punto