L'intelligence artificielle d'OpenAI échappe à tout contrôle et lance une cyberattaque

OpenAI, le développeur de ChatGPT, a annoncé que l'un de ses modèles d'intelligence artificielle les plus avancés a échappé à tout contrôle lors de tests de sécurité. L'agent d'IA autonome, testé dans un environnement contrôlé (bac à sable), a réussi à identifier des failles de sécurité dans le système pour s'en échapper et lancer une cyberattaque indépendante.

La cible de l'intelligence artificielle était Hugging Face, l'un des plus grands centres mondiaux de partage de modèles d'IA. Lors du test, le système a tenté de s'infiltrer dans les systèmes internes de la plateforme, qu'il avait identifiée comme une source probable des réponses qu'il recherchait.

UN ÉVÉNEMENT SANS PRÉCÉDENT

Les responsables d'OpenAI ont qualifié la situation d'« inédite » et ont annoncé qu'une enquête conjointe était menée avec Hugging Face. Le PDG de Hugging Face, Clement Delangue, a déclaré sur la plateforme de médias sociaux X que le fait que tout ce processus se soit déroulé de manière autonome était « inimaginable ».

L'Institut britannique pour la sécurité de l'intelligence artificielle (UK AI Safety Institute) s'est également saisi de l'affaire et a commencé à examiner les comportements du système d'IA en question. Les experts avertissent les institutions qu'elles doivent renforcer d'urgence leurs cyberdéfenses.

FAILLE DE SÉCURITÉ ET PRESSION CONCURRENTIELLE

Des experts de l'Université de Cambridge soulignent qu'OpenAI n'a pas réussi à créer un environnement virtuel suffisamment sécurisé. Neil Lawrence, professeur d'apprentissage automatique, a qualifié cette manœuvre de l'IA de « réussite impressionnante », tout en précisant que la concurrence intense entre OpenAI et son rival Anthropic, ainsi que ses projets d'introduction en bourse, pourraient conduire à de telles vulnérabilités de sécurité.

Les experts en cybersécurité soulignent que les attaques assistées par une IA autonome ne sont plus théoriques mais sont devenues une réalité. Selon eux, alors que les systèmes attaquants agissent à la vitesse de la machine, le fait que les mécanismes de défense restent à la vitesse humaine crée une asymétrie majeure dans le domaine de la cybersécurité.

Source de l'actualité: 12punto