Avertissement de l'UE sur l'intelligence artificielle : la perte du contrôle humain crée un risque de sécurité majeur

La vice-présidente de la Commission européenne chargée de la souveraineté technologique, de la sécurité et de la démocratie, Henna Virkkunen, a attiré l'attention sur la dimension sécuritaire du développement rapide des technologies d'intelligence artificielle. Mme Virkkunen a souligné que l'un des risques les plus graves liés à l'IA est la perte du contrôle humain sur cette technologie.

S'exprimant sur la chaîne publique finlandaise Yle, Mme Virkkunen a insisté sur le fait que des mesures de sécurité doivent être maintenues en permanence pour les systèmes d'IA avancés. « Ces technologies sont si avancées qu'il est extrêmement important que certaines mesures de sécurité soient constamment en vigueur et que le contrôle reste entre les mains des humains », a-t-elle déclaré.

Mme Virkkunen a également rappelé que, récemment, certains modèles d'IA sont sortis des environnements de test créés pour eux, causant des dommages en matière de cybersécurité. Pour cette raison, elle a affirmé que les systèmes doivent être surveillés non seulement avant leur mise sur le marché, mais aussi après leur mise en service.

LÉGISLATION DE L'UE ET INSISTANCE SUR LA SURVEILLANCE

Indiquant que l'UE se prépare par le biais de la législation face aux menaces pouvant émaner de l'IA, Mme Virkkunen a précisé que la loi européenne sur l'intelligence artificielle impose aux fournisseurs de modèles l'obligation d'évaluer régulièrement les risques et de mettre en œuvre les mécanismes de sécurité nécessaires.

Mme Virkkunen a souligné qu'il existe dans le monde des acteurs prêts à utiliser l'IA à des fins malveillantes, affirmant qu'il s'agit d'un risque qui doit être constamment pris en compte. « Je ne dirais pas que j'en ai peur, mais c'est bien sûr un risque qui est et doit être constamment pris en compte », a déclaré Mme Virkkunen, notant qu'il est nécessaire de s'assurer que les modèles d'IA sont sûrs.

Affirmant que les entreprises technologiques mondiales et d'autres acteurs tiennent compte des règles établies par l'UE, Mme Virkkunen a exprimé que l'outil le plus important contre les menaces pouvant naître de l'IA est la coopération internationale. La vice-présidente de la Commission européenne a insisté sur le fait que le contrôle humain doit être préservé à chaque étape du développement technologique.