L'impact de l'intelligence artificielle sur le paysage de la cybersécurité en 2023 a été étudié

Alors que le rythme rapide des progrès technologiques et des changements sociétaux se poursuit, le terme « Intelligence Artificielle » s'est fermement imposé au premier plan de l'agenda mondial. Avec la généralisation croissante des grands modèles de langage (LLM), l'augmentation des préoccupations concernant la sécurité et la confidentialité associe directement l'intelligence artificielle au monde de la cybersécurité.

Les chercheurs de Kaspersky révèlent comment les outils d'intelligence artificielle ont aidé les cybercriminels dans leurs activités malveillantes en 2023, tout en mettant en lumière les applications potentielles de cette technologie dans le domaine de la défense.

Dans leur dernier rapport, les experts de Kaspersky mettent en évidence l'impact profond de l'intelligence artificielle sur le paysage de la cybersécurité en 2023, tout en abordant la manière dont les menaces liées à l'IA pourraient évoluer à l'avenir.

L'analyse, menée avec une approche multidimensionnelle, étudie les effets de l'IA, se concentre sur son utilisation par les experts en cybersécurité et les autorités de régulation, et évalue comment elle pourrait être potentiellement exploitée par les cybercriminels.

Selon les informations fournies, à mesure que les LLM capables de suivre des instructions spécifiques seront intégrés dans davantage de produits destinés aux consommateurs, de nouvelles vulnérabilités complexes apparaîtront à l'intersection de l'IA générative et des technologies traditionnelles. Cela élargira la surface d'attaque que les experts en cybersécurité doivent sécuriser. Cette situation exige que les développeurs travaillent sur de nouvelles mesures de sécurité, telles que l'approbation de l'utilisateur pour les actions initiées par des agents LLM.

Les membres des équipes rouges (red teams) et les chercheurs tireront parti de l'IA générative pour des outils de cybersécurité innovants, ouvrant la voie à des assistants basés sur les LLM ou l'apprentissage automatique (ML). Cet outil a le potentiel d'automatiser les tâches des équipes rouges en offrant des conseils basés sur les commandes exécutées dans un environnement de test d'intrusion (pentesting).

L'année prochaine, les escrocs renforceront leurs tactiques en utilisant des réseaux de neurones artificiels et tireront parti des outils d'IA pour créer des contenus frauduleux plus convaincants. Capables de produire sans effort des images et des vidéos persuasives, les acteurs malveillants augmenteront le risque d'escalade des cybermenaces liées à la fraude et à l'usurpation d'identité.

Malgré les développements mentionnés ci-dessus, les experts de Kaspersky restent sceptiques quant à l'idée que l'IA modifiera radicalement le paysage des menaces dans un avenir proche. Alors que les cybercriminels adoptent l'IA générative, il en va de même pour les experts en cybersécurité qui testeront des outils avancés pour améliorer la sécurité des logiciels et des réseaux. Cela rend peu probable un changement majeur de l'environnement des attaques.

À mesure que la technologie évolue, des réglementations et des régulations adaptées à cette évolution voient le jour. Dans ce sens, le nombre d'initiatives réglementaires liées à l'IA va augmenter. Les acteurs non publics, tels que les entreprises technologiques, peuvent fournir des informations très précieuses pour les débats sur la réglementation de l'IA, tant sur les plateformes mondiales que nationales, compte tenu de leur expertise dans le développement et l'utilisation de l'IA.

MARQUAGE DES CONTENUS GÉNÉRÉS PAR L'INTELLIGENCE ARTIFICIELLE

Selon les informations contenues dans la déclaration, outre davantage de réglementations, de nouvelles politiques de fournisseurs de services seront nécessaires pour le marquage ou l'identification des contenus synthétiques. En conséquence, les fournisseurs de services continueront d'investir dans les technologies de détection.

Les développeurs et les chercheurs contribueront quant à eux aux méthodes de tatouage numérique (watermarking) des médias synthétiques pour faciliter l'identification et l'attribution des sources.

Vladislav Tushkanov, expert en sécurité chez Kaspersky, dont les opinions ont été incluses dans la déclaration, a déclaré : « En cybersécurité, l'intelligence artificielle est comme une épée à double tranchant. Les capacités adaptatives de l'IA peuvent renforcer notre défense en offrant un bouclier proactif contre les menaces émergentes. Cependant, ce même dynamisme peut également conduire les attaquants à exploiter l'IA pour mener des attaques plus sophistiquées. Trouver le juste équilibre en assurant une utilisation responsable, sans partager excessivement de données sensibles, est crucial pour sécuriser nos frontières numériques. »

Source de l'actualité: AA

Actualités connexes

Un expert analyse : L'intelligence artificielle menace-t-elle l'intégrité académique ?

L'intelligence artificielle peut-elle réaliser des reportages exclusifs ? Une déclaration critique d'un expert

L'intelligence artificielle avait prédit le score du derby Beşiktaş-Fenerbahçe. L'IA de Google a échoué