Ne demandez pas à l'IA de vérifier un Netanyahu à six doigts

Il existe des époques où la vérité disparaît. Mais plus dangereux encore sont les moments où la vérité est étouffée par de fausses images, des vidéos et des spéculations. C'est exactement ce qui se passe aujourd'hui sur les réseaux sociaux en période de guerre, de bombardements, de frappes de missiles, d'assassinats, de blocus et de fermetures. D'un côté, des images truquées générées par l'IA, et de l'autre, une autorité algorithmique, une surveillance, une censure et une marginalisation qui rendent invisibles certains comptes. Tout comme dans le film Le Procès (1962), le verdict des algorithmes invisibles sur les réseaux sociaux rappelle ces personnages d'un ordre kafkaïen, punis sans même savoir quel est leur crime. Les politiques de « contenu sensible » des plateformes de réseaux sociaux sont souvent défendues au nom de la sécurité et de l'éthique. Mais en pratique, ces filtres sont également un outil de régulation algorithmique qui limite la circulation de certains récits politiques. Les comptes et les publications de ceux qui ne s'alignent pas sur l'économie politique des entreprises technologiques, ou qui s'y opposent, sont rendus invisibles. Sous l'étiquette de contenu sensible, ce qui est légal et légitime est marginalisé. Sur X en particulier, de nombreux comptes de personnes, de groupes et de partis anti-impérialistes, anticapitalistes et antisionistes tentent d'exister sur la plateforme sous un brouillard algorithmique.

D'un autre côté, certaines vidéos circulant récemment sur les réseaux sociaux ont déclenché un nouveau débat : les manipulations et les allégations concernant la mort du Premier ministre israélien Benjamin Netanyahu, et la question de savoir si les images partagées pour démentir cette information ont été générées par l'IA. Des allégations de manipulation par IA ont été avancées sur la base de détails tels que le nombre de doigts, le visage ou les expressions des oreilles. Ces vidéos peuvent avoir été produites par l'IA ou non. Mais le débat lui-même révèle un problème différent et plus fondamental : dans un média numérique où nous ne pouvons plus facilement faire confiance à aucune image, qu'est-ce que la vérité, comment la trouver et comment la partager ? Le sujet est en fait plus grave sous cet aspect. L'IA ne produit pas seulement de fausses images ; elle accroît le soupçon que même les images réelles pourraient être fausses. Ainsi, même les images de guerre se transforment en quelques minutes en un débat sur l'examen des pixels, et l'importance de la vérité se perd dans la banalisation des détails techniques et des mèmes.

La question de la fragmentation de la réalité est également un débat très ancien au cinéma. Dans le chef-d'œuvre Rashōmon, tourné en 1952, Akira Kurosawa montre comment le même événement est raconté de manières totalement différentes par différentes personnes. Chaque témoin produit une autre vérité en fonction de ses propres intérêts et de son point de vue. Il existe un effet Rashōmon similaire sur les réseaux sociaux d'aujourd'hui. La même image peut se transformer en des dizaines de récits différents en quelques heures. Dans le monde numérique, les vérificateurs de l'IA peuvent choisir comme vérité absolue uniquement ce qui est « le plus conforme à la structure de propriété » et rejeter le reste dans la poubelle des médias numériques en le qualifiant de « contenu sensible » ou de « désinformation ». Nous ne regardons pas la réalité, mais l'image présentée par la sélectivité de classe de l'algorithme.

Le personnage principal du film The Truman Show (1998) n'a compris qu'il vivait dans un monde faux que lorsqu'il a heurté les limites de ce monde. Nos mécanismes de vérification de l'exactitude et de la réalité sont comme les murs du décor au bout de cette mer que Truman tentait de fuir. Les avertissements « non vérifié » ou « sorti de son contexte » qui apparaissent lorsque nous remettons en question l'agressivité d'Israël ou l'hypocrisie des médias occidentaux pourraient en réalité être ce ciel peint que le bateau de Truman a heurté. Groke ou des outils similaires semblent vouloir nous amarrer à un port appartenant aux entreprises de technologie numérique, en nous disant : « restez dans cette simulation de réalité que nous avons approuvée », comme s'ils s'adressaient à notre bateau en quête de vérité.

Dans le film Des hommes d'influence (Wag the Dog, 1997), une guerre était mise en scène dans un studio de télévision pour distraire l'opinion publique, tandis que la question de la différence entre l'humain et sa copie, autrefois débattue dans le cinéma de science-fiction, était traitée à travers les androïdes dans le film Blade Runner (1982). Aujourd'hui, nous demandons à l'IA de faire la distinction entre l'humain réel, le faux et l'artificiel. José Saramago, dans son roman « L'Aveuglement », décrit l'aveuglement de la conscience et la déchéance morale d'une société qui, bien qu'ayant les yeux ouverts, ne veut pas voir la réalité. Alors que nous débattons de la mort ou non de Netanyahu à travers une vidéo, nous ne pouvons pas voir, comme les aveugles de Saramago, la destruction causée par la guerre et la mort de centaines de personnes. Notre besoin de faire valider par l'IA nous transforme en aveugles volontaires qui ne font pas confiance à leurs propres yeux. Alors que l'algorithme nous noie dans un bruit où sont débattus des détails techniques, la véritable tragédie que notre conscience devrait voir, ainsi que les objectifs et les buts derrière les guerres, nous échappent.

Dans le film Matrix, Morphéus dit à Neo : « Qu'est-ce que le réel ? Si tu parles de ce que tu peux sentir, respirer, goûter et voir, alors le réel n'est que des signaux électriques interprétés par ton cerveau ». Aujourd'hui, la réalité se transforme également en signaux algorithmiques provenant des propriétaires des plateformes. D'autre part, Étienne de La Boétie affirmait au XVIe siècle que le pouvoir des tyrans se nourrit des habitudes et du confort des gens. Avec son concept de « Servitude volontaire », il souligne que les gens deviennent vulnérables à la manipulation parce qu'ils fuient la responsabilité politique qu'implique la confrontation avec la réalité. Dans cette optique, l'utilisateur, par confort cognitif et paresse de vérification, se contente d'abord de contenus qui ne perturbent pas ses opinions. Ensuite, au lieu de rechercher ou d'attendre de savoir si une vidéo est réelle, il délègue le travail de vérification à une autre IA, dans la logique des réseaux sociaux fondée sur l'interaction et la vitesse. L'IA et les algorithmes de vérification présentent alors comme réel ce qui passe à travers le filtre de « vérité » autorisé par la structure de propriété. Ainsi, la responsabilité de remettre en question la vérité est à nouveau transférée à la technologie. Dans ce contexte, le moyen de sortir des éloges du F-35 par l'agence Anadolu, de la censure axée sur la propriété de X et du chaos visuel créé par l'IA nécessite un regard économico-politique critique qui se tourne au-delà du ciel dessiné par l'algorithme.

Il faut ici poser une question simple mais importante. Si le système qui produit et diffuse une image et celui qui la vérifie font partie du même écosystème technologique, dans quelle mesure cette vérification peut-elle être indépendante ? En bref, la technologie par laquelle la manipulation est produite ou peut être produite peut-elle être en même temps l'outil par lequel la vérité est vérifiée ? Car les propriétaires effectifs des algorithmes « boîte noire » qui constituent les filtres des processus de vérification sont également les entreprises technologiques mondiales, principalement basées aux États-Unis, qui contrôlent l'infrastructure économique et technique des plateformes numériques.

C'est pourquoi ne demandez pas à l'IA de vérifier le « Netanyahu à six doigts » prétendument créé par l'IA. En raison de la technique d'apprentissage profond basée sur des réseaux de neurones artificiels en concurrence, la ressemblance des images créées par l'IA avec la réalité augmentera de jour en jour. De nouvelles manipulations seront produites. De nouveaux outils de vérification seront mis sur le marché. Mais la question restera la même :

Cherchons-nous vraiment la vérité, ou préférons-nous vivre et regarder la vie avec la version que l'algorithme nous propose ?