L'IA Mythos d'Anthropic a découvert des failles dans les systèmes secrets américains en quelques heures

Le modèle d'intelligence artificielle baptisé Mythos, développé par Anthropic, aurait détecté des failles de sécurité dans des systèmes informatiques sensibles du gouvernement américain en quelques heures seulement lors d'un exercice de test.

Un responsable américain, s'exprimant sous couvert d'anonymat auprès de l'Associated Press, a déclaré que l'entreprise avait mené ces tests en coopération avec les agences de renseignement américaines. Le responsable a toutefois souligné que la capacité du modèle à identifier rapidement ces failles ne signifiait pas qu'il était en mesure de les exploiter dans le même laps de temps.

Ces tests ont été réalisés dans le cadre de l'initiative Project Glasswing d'Anthropic. Ce projet rassemble des entreprises technologiques visant à protéger les logiciels critiques pour la sécurité publique, la sécurité nationale et l'économie contre les risques potentiels posés par les modèles d'IA avancés.

Le sénateur démocrate de Virginie, Mark Warner, avait évoqué ces tests le 11 juin lors d'une audition devant la commission sénatoriale des banques, du logement et des affaires urbaines. « Cet outil a infiltré presque tous nos systèmes classifiés en quelques heures, et non en quelques semaines », a-t-il déclaré, précisant avoir reçu ces informations du général Joshua Rudd, à la tête de la NSA et du Cyber Command des États-Unis.

TENSIONS AVEC L'ADMINISTRATION

Bien que les tests témoignent d'une collaboration entre les agences américaines et Anthropic, des tensions subsistent entre l'entreprise et l'administration Trump concernant l'utilisation de l'IA dans les domaines militaire et de la sécurité nationale. Ce mois-ci, l'administration a émis une directive exigeant que l'utilisation des modèles Fable 5 et Mythos 5 d'Anthropic soit interdite aux ressortissants étrangers.

Cette directive est intervenue 10 jours après un décret présidentiel du président Donald Trump permettant l'examen des systèmes d'IA les plus avancés pour évaluer les risques de sécurité nationale avant leur mise à disposition du public. Le décret précisait que la participation des entreprises à ce processus serait volontaire.

Anthropic a annoncé avoir désactivé les modèles concernés pour tous ses clients afin de se conformer à la directive. Cependant, l'entreprise estime que les mesures prises par le gouvernement ne sont pas justifiées par les préoccupations de sécurité qu'elle a elle-même soulevées.

Des représentants d'entreprises, dont des cadres d'Adobe et de Nvidia, ainsi que plus de 100 experts en cybersécurité, ont demandé l'annulation de cette directive dans une lettre adressée au gouvernement. Les signataires ont fait valoir que si les modèles Mythos sont performants pour détecter des erreurs logicielles et transformer des vulnérabilités en outils d'attaque, ils ne sont pas uniques dans ce domaine.

La lettre met également en garde contre le danger de désactiver des outils de cyberdéfense puissants « sans raison valable » à une époque où les rivaux des États-Unis progressent rapidement.

Source de l'actualité: 12punto