Rapport d'Anthropic : Claude utilisé à des fins malveillantes dans le développement d'armes, les cyberopérations et la désinformation

La société d'intelligence artificielle Anthropic a rapporté que ses modèles Claude ont été détournés par divers acteurs pour des usages allant du développement d'armes conventionnelles aux cyberopérations, en passant par la surveillance et la fraude.

Le rapport publié par l'entreprise, visant à identifier et à prévenir l'utilisation abusive de ses modèles, couvre la période de décembre 2025 à août 2026. Il indique que des groupes soupçonnés d'être soutenus par des États, des acteurs criminels motivés par le gain financier et des institutions liées à des activités de propagande ont tiré parti de modèles tels que Claude Haiku, Sonnet et Opus.

Anthropic a annoncé que, dans les cas identifiés, les comptes ont été fermés et que, dans certaines situations, les informations obtenues ont été partagées avec des institutions publiques et des organisations du secteur privé.

LOGICIELS D'ARMEMENT ET CYBEROPÉRATIONS

L'un des points les plus marquants du rapport concerne l'utilisation de Claude dans les processus de développement de logiciels liés aux armes conventionnelles. Selon Anthropic, des tentatives ont été identifiées concernant non seulement des armes à feu, des missiles, des drones armés, des bombes et d'autres munitions, mais aussi des logiciels de ciblage et de contrôle faisant fonctionner ces systèmes.

L'équipe de renseignement sur les menaces de l'entreprise a enquêté sur de nombreux acteurs ayant utilisé Claude l'année dernière pour produire des logiciels destinés à la conception et au développement d'armes, ou pour soutenir des activités de collecte de renseignements et d'approvisionnement préparant le terrain à des programmes d'armement. Le rapport note que trois de ces acteurs se trouvent en Chine, deux en Russie et un au Yémen.

Anthropic a indiqué avoir identifié un groupe opérant dans le nord du Yémen utilisant Claude Code dans trois programmes de développement d'armes différents, incluant des roquettes guidées et divers missiles. Selon le rapport, le groupe a utilisé le modèle pour des logiciels de guidage, de navigation et de stabilisation, ainsi que pour des processus de simulation et de test. L'entreprise a toutefois souligné n'avoir trouvé aucune preuve que le groupe ait réussi à développer une arme opérationnelle.

Dans un autre cas, il a été rapporté qu'un acteur basé en Chine a utilisé Claude dans le but de développer un système d'arme anti-torpille. Il est indiqué que l'acteur a utilisé le modèle pour développer certaines parties du logiciel de contrôle de tir, préparer un plan de test et comparer le système avec les programmes de défense anti-torpille et sous-marine des États-Unis. Anthropic a estimé que cette activité était liée à un fabricant de l'industrie de défense chinoise.

Le rapport contient également des exemples relatifs aux cyberopérations. Il est précisé que les activités d'espionnage liées à la Russie ont principalement ciblé le renseignement militaire des gouvernements ukrainien et européens. Quant aux acteurs présumés basés en Chine, il est noté qu'ils ont mené des tentatives d'intrusion dans des systèmes de production et des activités de reconnaissance visant des réseaux gouvernementaux étrangers au Moyen-Orient, en Europe et en Asie du Sud-Est.

SURVEILLANCE, FRAUDE ET ALLÉGATIONS DE COPIE DE MODÈLES

Les activités de surveillance ont également été examinées sous une rubrique distincte dans le rapport d'Anthropic. En juin 2026, un compte ciblant l'Iran et la région du golfe Persique aurait mis en place une plateforme de surveillance visant à analyser, classer et établir le profil des activités sur les réseaux sociaux des utilisateurs de la région. Il a été annoncé que ce compte a été banni.

L'entreprise a déclaré que l'enquête a révélé que le compte était géré par ou pour le compte d'une organisation appelée « S2T Unlocking Cyberspace ». Les recherches en sources ouvertes indiquent que l'organisation serait un fournisseur de renseignement d'origine israélo-singapourienne.

Dans un autre exemple de surveillance basé en Chine, il est indiqué que Claude a été utilisé comme un outil automatisé de « surveillance de l'opinion publique ». Selon le rapport, l'utilisateur a tiré parti du modèle pour préparer des notes de synthèse gouvernementales classant les opposants, les militants, les minorités ethniques, la diaspora chinoise et les médias étrangers comme des menaces à la stabilité politique.

Dans la section consacrée à la fraude, il est rapporté qu'un studio d'applications basé en Chine a mis en place un réseau composé de plus de 20 applications de rencontre avec l'aide de Claude. Le rapport indique que, bien qu'il ait été prétendu que les services étaient entièrement fournis par des humains, des personnages d'intelligence artificielle discutant avec les utilisateurs ont été développés. Il est noté que plus de 4 700 personnages d'IA ayant discuté avec au moins 25 000 personnes sur une période de deux semaines ont été identifiés.

Le rapport inclut également des exemples concernant la méthode de « distillation », qui consiste à entraîner un modèle de moindre capacité en utilisant les résultats de modèles d'IA plus avancés. Anthropic a précisé que cette méthode est une technique d'entraînement courante dans le domaine de l'IA, mais qu'elle devient illégale lorsqu'elle vise à copier sans autorisation d'autres modèles.

L'entreprise a soutenu que des acteurs liés à Alibaba ont tenté de copier illégalement les capacités de ses modèles et que cette activité constitue la plus grande « attaque de distillation illégale » enregistrée à ce jour. Le rapport avance que près de 3 millions de transactions quotidiennes ont été effectuées à partir de plus de 3 500 faux comptes.

Anthropic a également partagé des exemples concernant Moonshot AI, DeepSeek et Xiaomi. Alors qu'il est indiqué que Moonshot transmettait certaines requêtes d'utilisateurs à Claude au lieu de son propre modèle Kimi, le rapport mentionne : « Les utilisateurs pensaient utiliser le modèle Kimi, alors qu'ils recevaient en réalité des réponses de Claude ». Il est également allégué que DeepSeek a redirigé les communications vers Claude sans en informer ses clients, et que Xiaomi a transféré des conversations d'utilisateurs issues de ses modèles MiMo vers Claude.

Dans la section sur les opérations d'influence, l'attention a été attirée sur les réseaux produisant du contenu trompeur via de faux profils sur les réseaux sociaux et des sites d'information. Anthropic a annoncé avoir identifié et démantelé une opération de manipulation de l'information liée à la Russie en République centrafricaine, ainsi qu'un réseau de désinformation commerciale géré par une agence de publicité numérique basée en France.

Source de l'actualité: 12punto