Accord sur l'intelligence artificielle entre Google et le Pentagone : l'entreprise en ébullition

La société technologique américaine Google aurait signé un accord avec le département de la Défense des États-Unis (Pentagone) permettant l'utilisation de systèmes d'intelligence artificielle dans le cadre d'opérations secrètes. Ce développement a suscité des débats au sein même de l'entreprise.

COLLABORATION EN MATIÈRE D'INTELLIGENCE ARTIFICIELLE POUR DES OPÉRATIONS SECRÈTES

Selon des informations rapportées par « The Information » et basées sur une source proche du dossier, un accord a été conclu permettant au Pentagone d'utiliser les modèles d'intelligence artificielle de Google pour certaines activités classifiées. Dans le cadre de cet accord, il est précisé que les systèmes d'intelligence artificielle pourraient être utilisés « aux fins légales du gouvernement ».

Il est également indiqué que l'accord prévoit des ajustements des filtres de sécurité et des mécanismes de protection de l'intelligence artificielle de Google, conformément aux demandes des autorités publiques.

Le texte souligne que les parties ont convenu que les technologies d'intelligence artificielle ne devraient pas être utilisées pour la surveillance de masse ou dans des systèmes d'armes autonomes (y compris pour la désignation de cibles) sans supervision humaine. Par ailleurs, il est noté que l'accord ne confère à Google aucun droit de contrôle ou de veto sur les processus de décision opérationnels.

LA FRONDE AU SEIN DE L'ENTREPRISE

Par ailleurs, environ 600 employés de Google se sont opposés à cette collaboration dans une lettre adressée au PDG Sundar Pichai.

Dans cette lettre, les employés travaillant dans le domaine de l'intelligence artificielle ont attiré l'attention sur les risques potentiels de cette technologie, arguant que l'entreprise ne devrait pas participer à des projets militaires secrets. Les employés ont affirmé porter une responsabilité face aux usages contraires à l'éthique et dangereux de l'intelligence artificielle.

La lettre pointe du doigt des risques tels que les armes autonomes létales et les systèmes de surveillance à grande échelle, avertissant que les décisions prises pourraient avoir de graves conséquences sur la réputation et la position mondiale de l'entreprise.

Source de l'actualité: İHA