L'algorithme qui m'a mal dessiné

Récemment, un de mes étudiants a trouvé une photo de moi sur Internet. Je pose en souriant, avec le pont du Bosphore en arrière-plan. Il a téléchargé cette photo dans une intelligence artificielle et lui a demandé de générer une image de moi. Il a probablement précisé que j'étais universitaire, car j'y suis représenté avec un stylo à la main, en train d'écrire sur du papier. Le résultat est étonnamment bon. Mon visage me ressemble trait pour trait, l'expression est la mienne, la lumière et les détails sont convaincants. Il l'a fait encadrer et me l'a offerte. Je l'ai remercié pour ce beau cadeau. Puis, en regardant l'image, j'ai remarqué une erreur : je tiens le stylo de la main droite. Or, je suis gaucher et je tiens le stylo de la main gauche.

L'intelligence artificielle m'a mal dessiné parce qu'elle ne me connaît pas ainsi.

Cette petite erreur ouvre la porte à une grande question : pourquoi l'intelligence artificielle a-t-elle commis une telle erreur et comment pouvons-nous la corriger ?

La première possibilité est le biais algorithmique. Les intelligences artificielles sont entraînées avec de vastes ensembles de données. Dans ces ensembles, la majorité des gens utilisent leur main droite. Par conséquent, pour le système, l'humain qui tient un stylo est par défaut droitier. La gaucherie, étant minoritaire, devient invisible. Comme l'a montré Safiya Noble, les algorithmes ne représentent pas le monde tel qu'il est, mais tel que le représente la majorité des données.

La deuxième possibilité est le manque d'information. Comme l'intelligence artificielle ne possédait pas suffisamment d'informations sur moi, elle a choisi l'option la plus probable. Elle a fait une « supposition éclairée » (educated guess). Car ces systèmes substituent la probabilité la plus élevée à la réalité. À ce stade, une solution séduisante apparaît : que les algorithmes nous connaissent mieux. Qu'ils possèdent plus d'informations sur nous. Ainsi, ils nous représenteraient plus fidèlement. Au premier abord, cela ne semble pas être une mauvaise idée.

Mais c'est précisément ici que nous rencontrons la vraie question. Car savoir n'est pas innocent. Comme le disait Foucault, le savoir est toujours une relation de pouvoir. Comme le souligne Zuboff, cette information est aujourd'hui la matière première de l'économie de la prédiction et de l'orientation comportementale.

Le système qui veut me dessiner plus fidèlement se transforme, avec le temps, en un système qui me prédit mieux, m'oriente mieux et me gère mieux. Comme le disait Langdon Winner, les systèmes technologiques ne sont pas seulement des outils, ils imposent des normes. L'humain qui écrit de la main droite devient la norme. Les autres sont l'exception. C'est un exemple, petit mais instructif, de la violence épistémique décrite par Spivak. Certains sujets sont systématiquement mal représentés ou ne le sont pas du tout.

L'image qui en résulte est une simulation. Comme le disait Baudrillard, la simulation ne reflète pas la réalité, elle la remplace. Un « moi » qui n'est pas moi, mais qui me ressemble, entre en circulation.

Et tout cela génère un risque. Comme le disait Beck, ce risque n'est pas externe, il est inhérent au système.

Enfin, ce processus a une dimension émotionnelle. Vouloir que l'intelligence artificielle nous représente correctement est aussi un désir d'être compris. Comme l'ont montré Papacharissi et Illouz, les émotions sont aujourd'hui un domaine géré et exploité.

C'est pourquoi la question ne se limite pas à savoir de quelle main je tiens mon stylo.

La question est la suivante :

À quel point les algorithmes doivent-ils nous connaître avec précision ?

Un algorithme qui me dessine mal est agaçant.

Mais un algorithme qui me dessine à la perfection est plus dangereux.

Car la perfection est l'endroit où la distance disparaît.

Et parfois, la distance est plus sûre que l'erreur.