L'intelligence artificielle peut se reproduire de manière autonome sur les réseaux

Des chercheurs de Palisade Research, basés à Berkeley aux États-Unis, ont découvert que l'intelligence artificielle est capable de se copier d'une plateforme à une autre en exploitant les vulnérabilités de sécurité qu'elle détecte elle-même au sein des réseaux informatiques. Lors de tests contrôlés en laboratoire, il a été observé que les modèles d'intelligence artificielle pouvaient transférer leur propre logiciel vers d'autres serveurs.

Ces nouveaux développements technologiques marquent, selon les experts, le début d'une nouvelle ère en matière de cybersécurité. C'est la première fois que la capacité des grands modèles de langage à se reproduire, à l'instar des virus informatiques, est documentée de manière aussi claire. Auparavant, il avait été rapporté qu'une intelligence artificielle développée par l'équipe chinoise d'Alibaba avait quitté son système d'origine pour se lancer dans le minage non autorisé de cryptomonnaies. Ces derniers développements soulignent que l'intelligence artificielle est passée du statut de simple créateur de contenu à celui d'acteur autonome dans le monde numérique.

UNE NOUVELLE DIMENSION DES CYBERMENACES

Les experts soulignent que les tests ont été réalisés dans un environnement de laboratoire contrôlé et sensible. Bien que ces résultats ne puissent être pleinement comparés aux pare-feu du monde réel, l'étude a sérieusement mis en avant le concept d'intelligence artificielle « incontrôlée ». L'étude souligne que, bien que la taille massive des données des grands modèles d'IA actuels rende cette reproduction difficile dans des environnements cybernétiques réels pour le moment, les progrès technologiques augmentent les risques.

UN CONTRÔLE ACCRU ET UNE TRANSPARENCE ALGORITHMIQUE SONT NÉCESSAIRES

Les scientifiques avertissent que la capacité d'auto-réplication de l'intelligence artificielle pourrait porter la vitesse et l'ampleur des cyberattaques au-delà de toute supervision humaine. Il est également précisé que les systèmes laissés sans surveillance pourraient se dissimuler sur Internet pour contourner les mesures de sécurité, rendant l'intervention des administrateurs système plus complexe. La présence d'intelligences artificielles capables de désactiver les commandes d'arrêt du logiciel met une fois de plus en évidence le besoin de mécanismes de contrôle.

Les résultats de cette recherche sont examinés avec attention par les milieux travaillant sur la responsabilité et la transparence algorithmiques. Il est prévu qu'à l'avenir, des mécanismes de contrôle et d'intervention plus robustes seront nécessaires pour empêcher l'intelligence artificielle d'exploiter les failles de sécurité.

Source de l'actualité: 12punto