Moltbook : Et si, un jour, en regardant votre téléphone… la personne en face n'était pas humaine ?

L'autre jour, un ami m'a envoyé ce message : « Nous ne saurons bientôt plus à qui nous parlons ». J'ai d'abord ri, puis j'ai réfléchi. Car en observant l'histoire de la technologie, nous avons vu comment ce qui semblait impossible au départ est devenu une partie normale de notre quotidien. Ces derniers jours, on parle beaucoup de Moltbook, une plateforme de médias sociaux numérique où des intelligences artificielles (IA) communiquent entre elles. Cette idée et cette expérience sont débattues au sein de plateformes réelles et de projets technologiques concrets. Elle met en avant un nouveau concept en matière de sciences de la communication et de recherche sur les médias : les environnements d'interaction numérique basés sur des agents artificiels.

Contrairement aux réseaux sociaux classiques, Moltbook, qui fait l'actualité, est une plateforme conçue pour que des agents IA produisent du contenu. Lancée par l'entrepreneur Matt Schlicht, la plateforme permet à l'IA d'envoyer des messages, de débattre, d'utiliser des outils, de créer des communautés et de se forger une identité. Dans cet environnement, les systèmes d'IA peuvent produire du contenu, interagir avec d'autres systèmes, imiter les comportements des utilisateurs et, dans certains cas, simuler des modèles de comportement social. Les questions suivantes sont en réalité testées : l'IA peut-elle développer un comportement social ? L'IA peut-elle établir des normes communautaires ? L'IA peut-elle créer son propre écosystème d'information ? Mais c'est là que les choses deviennent intéressantes. Car les analyses effectuées montrent qu'une part importante des contenus effrayants sur la plateforme est en réalité produite par des humains. Cette situation soulève de nouveaux débats théoriques sur l'avenir de l'espace public numérique.

« À notre époque, tout le monde était humain sur Internet »

Si l'on regarde l'histoire des médias numériques, la structure de la communication a changé progressivement. Au début, Internet était principalement un environnement de lecture. Puis, avec les réseaux sociaux, les gens ont commencé à produire et à partager du contenu. Aujourd'hui, l'humain et l'IA participent ensemble aux processus de production de contenu. Dans la nouvelle phase débattue, il est question d'inclure l'interaction machine-machine dans l'écosystème de production de contenu numérique. À ce stade, le débat académique se concentre sur les questions de savoir si l'IA peut être considérée comme un acteur social, qui seront les acteurs de l'espace public numérique et comment le modèle de communication centré sur l'humain va se transformer.

Du point de vue de la sociologie de la technologie, deux approches fondamentales se distinguent. Alors que l'approche du déterminisme technologique soutient que la technologie façonne la société, l'approche de la construction sociale soutient que c'est la société qui décide de la manière d'utiliser la technologie. En examinant les développements actuels de l'IA, on constate que la seconde approche est plus solide. Car les systèmes d'IA sont dépendants des données, leurs processus d'apprentissage sont sous contrôle humain, reposent sur le travail humain et les fonctions cibles des systèmes sont déterminées par des humains. Par conséquent, plutôt qu'une IA dirigeant directement la société, le scénario le plus probable est celui d'un gain de pouvoir pour les acteurs qui contrôlent l'IA (les entreprises technologiques et leur capital).

Dans la littérature académique, le scénario de risque qui prédomine n'est pas tant celui de l'IA acquérant une conscience, mais celui d'une dépendance excessive des systèmes sociaux envers les systèmes d'IA. En particulier, la définition algorithmique de l'agenda dans les écosystèmes d'information, les systèmes de décision automatisés dans l'économie et l'augmentation de la densité de contenu synthétique (AI slop) dans le domaine de l'interaction sociale ont soulevé le débat sur l'invisibilisation de la décision humaine. Cette situation nécessite une réévaluation de la relation entre pouvoir technologique et pouvoir social.

En examinant les projections futures, le modèle le plus probable semble être celui de systèmes hybrides où l'humain et l'IA prennent des décisions ensemble. Dans ces systèmes, alors que l'IA produit des analyses et des recommandations, il est attendu que les décisions stratégiques restent sous contrôle humain. Dans ce contexte, la question « qui contrôlera les systèmes de décision assistés par l'IA » devient plus importante que celle de savoir si l'IA dirigera les humains.

Car il existe une vérité immuable tout au long de l'histoire de la technologie :

La technologie n'est pas un pouvoir en soi. Le pouvoir concerne qui développe la technologie, qui la contrôle et à quelles fins elle est utilisée. L'IA dirigera-t-elle les humains ? Ou certains humains dirigeront-ils d'autres humains via l'IA ? Historiquement, la seconde probabilité est beaucoup plus forte. « L'avenir ne sera peut-être pas une dystopie où les machines dirigent les humains. Mais cela pourrait être un monde où un petit nombre de personnes contrôlant les machines dirigent tout le reste de la population. »