Klippenstein : le renseignement américain ne soutient pas le récit de l'apocalypse par l'IA

Le journaliste Ken Klippenstein a écrit que le récit « apocalyptique » selon lequel l'intelligence artificielle détruirait l'humanité n'est pas étayé par les évaluations officielles des agences de renseignement américaines. Selon Klippenstein, les analyses officielles ne traitent pas l'IA comme une menace existentielle nouvelle et autonome, mais comme une technologie qui accélère la désinformation, la cybercriminalité, la fraude financière et les risques pour la sécurité nationale.

Dans l'analyse de Klippenstein, il est souligné que le débat sur l'IA n'est pas seulement une question de sécurité technique, mais qu'il est devenu un domaine où s'affrontent les intérêts des médias, des entreprises technologiques, des partisans de la réglementation et de ses opposants. L'analyse indique que les scénarios catastrophes sont parfois utilisés pour capter l'attention du public ou pour servir la position des entreprises sur le marché.

PAS DE SCÉNARIO APOCALYPTIQUE DANS LES RAPPORTS OFFICIELS

Dans l'Évaluation annuelle des menaces de la communauté du renseignement américain, les avertissements concernant l'IA sont restés limités et prudents. Le rapport souligne l'importance de maintenir le contrôle humain sur l'utilisation des machines et de l'IA, et indique que les risques liés à l'autonomie doivent être réduits avant une utilisation généralisée. Il est également noté que des technologies telles que l'IA et l'informatique quantique devraient avoir des répercussions sur la sécurité nationale.

Klippenstein a souligné que ces évaluations ne mentionnent pas des sujets tels que la « superintelligence », la « révolte des machines » ou l'extinction de l'humanité. Dans l'évaluation du ministère américain de la Sécurité intérieure, il est indiqué que l'IA ajoute surtout de la vitesse et de la complexité aux domaines de menaces existants.

Parmi les points mis en avant par le ministère figurent la désinformation, les vidéos et enregistrements audio truqués, l'ingérence électorale, les cyberopérations, les crimes financiers, l'utilisation de la technologie par des extrémistes violents, la diffusion de connaissances chimiques et biologiques, le contournement des contrôles de sécurité de l'IA et l'empoisonnement des données d'entraînement. Tous ces risques sont considérés comme des problèmes qui figuraient déjà à l'ordre du jour de la sécurité publique et nationale avant l'IA.

LE DÉBAT SUR LES INTÉRÊTS DES ENTREPRISES

L'analyse indique également que la concurrence entre les entreprises d'IA influence le débat sur le « risque existentiel ». Il est rappelé que Yann LeCun, ancien scientifique en chef de l'IA chez Meta, a accusé Sam Altman (dirigeant d'OpenAI), Demis Hassabis (dirigeant de Google DeepMind) et Dario Amodei (dirigeant d'Anthropic) de faire pression pour obtenir une réglementation en leur faveur.

Il est également rapporté qu'Andrew Ng, l'un des fondateurs de Google Brain, a qualifié l'affirmation selon laquelle l'IA détruirait l'humanité d'« incroyablement stupide ». Cependant, selon Klippenstein, les personnalités situées de l'autre côté de ce débat ne sont pas non plus exemptes de conflits d'intérêts. Alors que LeCun et Ng défendent les modèles open source, des entreprises comme OpenAI et Anthropic opèrent via des modèles fermés et propriétaires.

Pour cette raison, l'analyse soutient que la tension entre le catastrophisme et l'opposition à la réglementation masque souvent les risques réels. Il est précisé que les grandes entreprises ont la capacité de se conformer aux processus de licence et de réglementation fédérale, tandis que les petites entreprises ou celles axées sur l'open source pourraient être davantage affectées par de telles obligations.

RISQUES DE BIOTERRORISME ET CATASTROPHES

L'Évaluation des risques de catastrophe mondiale de la RAND Corporation, financée par le Pentagone, définit également l'IA non pas comme un mécanisme apocalyptique indépendant, mais comme un élément ajoutant de l'« entropie et du chaos » aux problèmes existants. Le rapport indique que le développement d'une IA superintelligente ou dotée de capacités extraordinaires n'est pas une condition nécessaire à l'émergence du chaos ; les capacités actuelles et celles du futur proche peuvent également accroître la complexité.

Dans une autre étude menée au sein de la RAND, il a été examiné si les grands modèles de langage facilitaient la planification d'attaques biologiques à grande échelle. Selon Klippenstein, les chercheurs n'ont pas constaté de différence statistiquement significative entre les plans préparés avec l'aide de l'IA et ceux préparés de manière indépendante.

Selon les évaluations de l'Académie nationale des sciences des États-Unis, l'obstacle fondamental dans le domaine du bioterrorisme n'est pas seulement l'accès à l'information. Des processus tels que le criblage de la synthèse d'ADN, les compétences en laboratoire, la production de cultures, la formulation et la mise en aérosol restent des étapes coûteuses, complexes et dépendantes de l'intervention humaine.

La conclusion de Klippenstein n'est pas que l'IA ne présente aucun risque, mais que les risques se concentrent sur des domaines beaucoup plus concrets que les scénarios apocalyptiques exagérés. Selon l'analyse, le tableau dressé par les dossiers des institutions officielles montre que l'IA peut amplifier les problèmes sociaux et sécuritaires, mais qu'elle n'est pas définie comme une technologie capable de mettre fin à l'humanité à elle seule.

Source de l'actualité: 12punto