Avertissement de Geoffrey Hinton sur l'intelligence artificielle : « Il ne reste peut-être qu'un an » pour les mesures de sécurité

Le scientifique lauréat du prix Nobel, Geoffrey Hinton, a adressé des avertissements frappants aux membres du Congrès américain concernant la vitesse de développement de l'intelligence artificielle. Hinton a affirmé qu'il ne restait peut-être qu'un an pour mettre en œuvre les mesures de sécurité nécessaires « avant de perdre totalement le contrôle » sur l'intelligence artificielle.

Selon les informations rapportées par NBC, Hinton a informé les membres du Congrès des risques liés à l'intelligence artificielle et de la nécessité d'une réglementation, à l'invitation du sénateur du Vermont, Bernie Sanders.

Rappelant que les prévisions sur l'émergence d'une superintelligence se situaient autrefois dans une fourchette de 30 à 50 ans, Hinton a souligné que ce délai était tombé à 10-20 ans, et qu'aujourd'hui, de nombreux chercheurs évoquent une période de quelques années seulement.

Ensuite, ces prévisions sont tombées à peut-être 10 ou 20 ans. Aujourd'hui, les gens, de nombreux chercheurs, disent que cela se produira dans quelques années seulement. Peut-être un an, mais pas beaucoup plus d'un an.

Hinton a précisé que l'intelligence artificielle a atteint un stade où elle est désormais capable de concevoir des systèmes d'IA plus avancés, ce qu'il définit comme une « auto-amélioration ». Soulignant que si ce processus progresse sans contrôle, il pourrait engendrer des risques graves, Hinton a déclaré : « Si nous ne faisons rien, cette situation deviendra incontrôlable. Nous devons ralentir. »

Le représentant démocrate à la Chambre, Ted Lieu, a également qualifié ces développements de « scénario de science-fiction pur et simple », affirmant que l'intelligence artificielle doit être contrôlée par les humains à un niveau fondamental. Lieu a exprimé qu'une situation inverse serait inacceptable.

Le sénateur Bernie Sanders a quant à lui fait part de ses inquiétudes croissantes concernant l'avenir de l'humanité et la possibilité de créer une technologie que les humains ne pourraient pas contrôler. Sanders a affirmé qu'il existait un « sentiment d'urgence croissant » parmi les membres du Congrès quant à la nécessité d'aborder cette question.