L'intelligence artificielle largement utilisée dans le génocide à Gaza : des étudiants pris pour des « terroristes potentiels »

Une enquête menée par l'Associated Press (AP) a révélé que l'armée israélienne utilise intensivement les technologies d'intelligence artificielle dans ses opérations à Gaza. La plateforme cloud Azure de Microsoft et les modèles d'OpenAI ont joué un rôle clé dans les processus d'analyse de données et de ciblage de l'armée israélienne. Selon l'enquête, l'armée israélienne a multiplié par 200 son utilisation de l'intelligence artificielle après les attaques du 7 octobre 2023. En mars 2024, le volume de données stockées sur les serveurs de Microsoft dépassait les 13,6 pétaoctets.

Les documents examinés par l'AP indiquent qu'un contrat de trois ans d'une valeur de 133 millions de dollars a été signé entre Microsoft et le ministère israélien de la Défense en 2021. Cet accord a fait d'Israël le deuxième plus grand client militaire de Microsoft après les États-Unis.

Un responsable du renseignement israélien a déclaré que l'armée analysait les données collectées par surveillance de masse à l'aide de Microsoft Azure, en précisant :

« Azure scanne rapidement des volumes massifs de texte. Grâce à cela, il est même possible de localiser des personnes qui s'échangent des itinéraires. »

La probabilité d'erreur des systèmes d'intelligence artificielle a également été abordée dans l'enquête. Un responsable israélien a cité en exemple une erreur survenue lors de traductions en arabe. La relation entre Microsoft et l'armée israélienne s'est encore renforcée après le 7 octobre. Selon l'AP, Microsoft Azure a répondu à 130 demandes de support technique émanant de l'armée israélienne au cours des 10 derniers mois. L'entreprise exploite un campus de 46 000 mètres carrés dans la ville d'Herzliya, près de Tel-Aviv.

LES CIVILS DANS LE VISEUR DE L'INTELLIGENCE ARTIFICIELLE

L'enquête a également révélé que les systèmes d'intelligence artificielle ont identifié environ 1 000 lycéens comme des « militants potentiels ». Les autorités ont averti que de telles erreurs pouvaient entraîner des pertes civiles.

Le responsable, s'exprimant sous couvert d'anonymat, a souligné que l'utilisation de l'intelligence artificielle faisait également des civils des cibles, en déclarant :

« Le mot arabe désignant la poignée d'un lance-roquettes est identique au terme signifiant "paiement". L'intelligence artificielle a mal traduit cela, et le personnel chargé du contrôle n'a pas remarqué l'erreur au départ. »

Heidy Khlaaf, ancienne cadre supérieure chez OpenAI, a commenté les résultats de l'enquête : « C'est la première confirmation que nous recevons de l'utilisation directe de modèles d'intelligence artificielle commerciaux dans une guerre. »