Propriété, pouvoir et liberté à l'ère de l'intelligence artificielle

Poursuite de mes essais sur l'intelligence artificielle. Dans les deux précédents articles, nous avions souligné ceci : nous sommes confrontés à deux possibilités diamétralement opposées.

Si l'immense puissance économique générée par l'intelligence artificielle et les robots est concentrée entre les mains de quelques entreprises ou d'une petite minorité, la porte pourrait s'ouvrir sur un monde menant au féodalisme numérique, puis au fascisme numérique.

Mais cette même révolution technologique pourrait également ouvrir la porte à un autre monde, où les besoins fondamentaux des individus sont satisfaits et où l'abondance créée par l'IA et les robots est partagée avec l'ensemble de la société. J'avais qualifié cela, en forçant un peu le concept, de « communisme utopique ».

Dans le deuxième article, nous nous étions interrogés sur la place de la Chine dans cette utopie.

Cependant, quelle que soit la voie que nous emprunterons, il est nécessaire de placer cette question au centre de ces essais : la technologie sera-t-elle utilisée pour libérer l'humain ou pour le contrôler ? Naturellement, en débattant de cette question, nous devons également aborder le concept de propriété.

SI JE M'ARRÊTE, MON CONCURRENT NE S'ARRÊTERA PAS

Un article écrit récemment par Liu Shengyu, l'un des ingénieurs clés de l'entreprise chinoise d'IA DeepSeek, a retenu mon attention. Voici le résumé de son propos :

Plus j'écris un code de qualité, meilleure sera l'IA que nous développons. Plus l'IA sera performante, mieux elle accomplira le travail que je fais. Finalement, je deviendrai inutile. Alors, dois-je arrêter de développer l'IA ? Je ne peux pas. Parce que si je ralentis, mon concurrent ne ralentira pas.

Dario Amodei, PDG d'Anthropic, s'inquiète du fait que la vitesse de développement de l'IA dépasse celle des mécanismes de sécurité. Il préconise que les entreprises développant l'IA freinent un peu, que des auditeurs indépendants interviennent, qu'une coordination soit établie entre les entreprises en matière de sécurité et, finalement, qu'une coopération internationale soit mise en place.

Le PDG d'OpenAI, Sam Altman, et le fondateur de xAI, Elon Musk, ont également soutenu l'appel au ralentissement d'Amodei. OpenAI a commencé à plaider en faveur de réglementations nationales obligatoires basées sur les capacités et d'évaluations indépendantes pour les systèmes d'IA avancés. Si même les dirigeants des entreprises qui développent l'IA parlent de danger, pourquoi ne freine-t-on pas ?

L'approche du président américain Donald Trump est différente. L'administration américaine ne souhaite pas que des réglementations lourdes ralentissent le secteur de l'IA. Car l'IA n'est plus seulement une course technologique et économique. C'est aussi l'un des domaines les plus importants de la lutte pour la puissance mondiale entre les États-Unis et la Chine.

Bill Gates, fondateur de Microsoft, pense que l'IA, si elle est bien gérée, peut apporter de grands avantages, notamment aux pays pauvres. Le 15 septembre, il avait déclaré à Reuters qu'aucun gouvernement dans le monde n'était suffisamment préparé à la transformation que l'IA allait engendrer. Il y a quelques jours, dans l'émission Meet the Press diffusée par NBC, il a de nouveau lancé un avertissement frappant. Il a déclaré que l'IA était « assez puissante pour déclencher des événements pouvant mener à un milliard de morts » entre les mains de personnes mal intentionnées. Il a soutenu que l'autorégulation des entreprises ne suffisait pas et qu'il fallait mettre en place des mécanismes de contrôle obligatoires pour l'IA, impliquant également les États.

En fin de compte, une situation difficile à contrôler émerge. Tout comme la recherche passée de réduction des armes nucléaires entre les États-Unis et l'URSS... Les deux parties connaissaient le danger que l'armement représentait pour l'humanité, mais aucune ne pouvait désarmer seule sans être certaine de l'autre.

L'ingénieur ne peut pas s'arrêter ; car un autre ingénieur continuera.

L'entreprise ne peut pas s'arrêter ; car l'entreprise concurrente continuera.

L'État ne peut pas s'arrêter ; car l'État concurrent continuera.

QUI CONTRÔLERA CEUX QUI CONTRÔLENT ?

Tout le monde voit le danger, mais personne ne peut ralentir seul. Alors, qui contrôlera l'IA ?

L'État ? Est-ce si simple ?

Si nous nommons des auditeurs indépendants, qui les choisira, qui les financera ? Les auditeurs prétendument indépendants pourront-ils vraiment le rester ?

Si c'est l'État qui contrôle, qui empêchera le pouvoir en place d'utiliser l'IA pour accroître sa propre puissance politique en s'appuyant sur la force de l'État ?

Si c'est une organisation internationale qui contrôle, qui convaincra l'Amérique, la Chine et les autres grandes puissances de se soumettre aux mêmes règles ? Qui contrôlera ceux qui contrôlent ?

Si le contrôle entre en jeu, nous devons impérativement discuter de la propriété.

À QUI APPARTIENT L'INTELLIGENCE ARTIFICIELLE ?

Les principaux moyens de production de la révolution industrielle étaient les usines, les machines et le capital. Aujourd'hui, un nouvel outil de production, peut-être plus important que tous les autres, s'y ajoute : l'intelligence elle-même.

L'IA écrira du code, fera du design, diagnostiquera des maladies, développera des médicaments, gérera des usines, participera à des recherches scientifiques. Combinée aux robots, elle pourra remplacer non seulement une partie importante du travail intellectuel, mais aussi du travail physique.

C'est pour cela que j'avais écrit dans mon premier essai que l'équation de la production changeait.

Ressources naturelles + capital + travail = production.

Remplacé progressivement par :

Ressources naturelles + capital + moins de travail + énergie + intelligence artificielle + robots = production.

Si le poids du travail humain dans l'équation de production diminue alors que l'IA devient l'un des outils de production les plus importants, nous sommes confrontés à la question de propriété peut-être la plus cruciale du XXIe siècle :

À qui appartiendra l'intelligence artificielle ?

À quelques grandes entreprises ?

Aux États ?

À des systèmes ouverts à tous ?

Ou la société aura-t-elle aussi un droit sur la richesse créée par ce nouvel outil de production ?

Dans son article, l'ingénieur chinois Liu Shengyu, que j'ai cité plus haut, pense que l'IA pourrait mener l'humanité vers l'une des deux extrémités radicales : d'un côté, un communisme où les forces productives sont libérées de manière immense, de l'autre, une dystopie de type Cyberpunk où les ressources économiques et la puissance technologique sont concentrées entre les mains de quelques entreprises. (1)

En lisant cela, j'ai souri malgré moi. Il est très peu probable que Liu ait lu mes articles. J'écris sur cette vision depuis deux semaines, mais cela remonte à plus loin. Je l'avais également écrit dans mon livre Les réglages d'usine de la Turquie pour le XXIe siècle, publié début 2024. Je le rappelle pour cette raison :

Le fait que nous regardions la même transformation technologique aux deux extrémités du monde et que nous posions des questions similaires, en avançant des possibilités de changement semblables, montre que nos prévisions ne sont pas si imaginaires que cela.

Cependant, je dois ici discuter et développer un peu plus ma propre thèse. Car le fascisme numérique et le communisme utopique ne sont pas deux alternatives qui pourraient apparaître à la même vitesse.

Le fascisme numérique peut arriver très rapidement.

La concentration de la richesse, des données, de l'IA et du pouvoir politique entre quelques mains pourrait suffire à cela.

Quant au communisme utopique, il doit être construit.

Et on ne peut pas y arriver du jour au lendemain. Cela nécessite un processus de transition économique, politique et sociale qui prendra beaucoup de temps. Il ne suffit donc pas de débattre du fascisme numérique et du communisme utopique. Nous devons également discuter de quel type d'ordre économique et politique sera établi durant la période de transition.

PROPRIÉTÉ SOCIALE

Dans mon livre Les réglages d'usine de la Turquie pour le XXIe siècle, commencé en 2023 et publié début 2024, alors que nous n'étions qu'au début de l'IA, j'avais écrit ceci :

À la suite des développements technologiques, de la gestion des données, des algorithmes et de l'IA, les robots remplaceront progressivement les humains dans la production. Nous serons confrontés à un nouveau problème de répartition, différent des contradictions de classe que nous avons vues tout au long de l'histoire, et auquel nous n'avons jamais été confrontés jusqu'à présent.

Et en cherchant une solution, j'avais particulièrement insisté sur un concept :

Qu'est-ce que la propriété publique, ou plus précisément sociale, et n'est-ce pas le droit humain le plus fondamental de la nouvelle ère ?

Les ressources naturelles d'un pays, tout comme les investissements d'infrastructure réalisés par l'État, ne sont pas la propriété de l'État, mais le bien commun des citoyens de ce pays.

Toutes les ressources naturelles, les mines, les rivières, les lacs, les forêts, les pâturages... Le propriétaire est la nation. Cet actif ne peut être utilisé pour la prospérité d'une poignée de personnes.

La même situation s'applique aux actifs créés par les impôts payés par la société au fil des générations.

Les routes, les ponts, les ports, les barrages, les infrastructures d'électricité et de communication, les satellites, les écoles, les universités, les hôpitaux... Même les rentes urbaines qui émergent à la suite des décisions et des investissements publics...

Définir tout cela uniquement comme « bien de l'État » est incomplet. Cette accumulation de richesse est le capital commun de la société. Ce ne sont pas les États, mais les citoyens qui ont réalisé tous ces investissements en payant des impôts, en subissant l'inflation et en assumant les dettes publiques. Même les enfants qui ne peuvent pas se nourrir correctement à cause de l'inflation et des difficultés de subsistance ont payé leur part du coût social de cette accumulation de richesse.

Dans un pays, l'égalité des citoyens ne peut se limiter à l'égalité devant la loi. Chaque citoyen a également un droit sur la richesse commune que ce pays a créée au fil des générations.

C'est pourquoi, aux côtés des droits humains les plus fondamentaux tels que le droit à la vie, le droit au logement, la liberté d'expression, la liberté de pensée, la liberté de croyance, le droit de diffuser ses idées et de s'organiser, le droit à l'égalité devant la loi, le droit de vote et d'éligibilité, le droit à l'éducation et à la santé, nous devons ajouter le droit à la propriété sociale en tant que droit citoyen fondamental.

Et ce droit nous donne également des indices sur la question de savoir à qui appartiendra la propriété de l'IA.

QUI EST LE PROPRIÉTAIRE DU SAVOIR ?

Pensons aux ingénieurs qui créent les systèmes d'IA les plus avancés d'aujourd'hui. Une intelligence, une créativité, une formation et une discipline de travail immenses sont nécessaires. Nous ne pouvons pas les sous-estimer. L'ingénieur, le scientifique, l'inventeur, l'artiste ou l'entrepreneur innovant doit recevoir une contrepartie pour la valeur qu'il crée. Nous devrions même, en tant que société, être fiers d'eux.

Il est naturel que celui qui est plus créatif, qui travaille plus et qui prend des risques gagne davantage. Un système qui ne récompense pas la créativité finit par tuer la créativité. Mais regardons aussi l'autre face de la médaille.

L'ingénieur en IA le plus performant d'aujourd'hui n'a pas découvert lui-même les mathématiques qu'il connaît. Il n'a pas inventé l'ordinateur lui-même. Il n'a pas développé le transistor lui-même. Il n'a pas créé Internet seul. Il n'a pas créé lui-même tous les langages de programmation. Il n'a pas fondé lui-même l'université qui l'a formé.

Le savoir scientifique utilisé par les générations actuelles s'élève sur l'énorme accumulation de connaissances créée par des milliers de scientifiques, de mathématiciens, de philosophes et d'ingénieurs ayant vécu avant eux.

On ne peut pas être un bon programmeur informatique sans bien connaître les mathématiques. On ne peut pas être un bon développeur d'IA sans bien connaître l'informatique. On ne peut pas être un bon médecin ou ingénieur en génétique sans avoir reçu une bonne formation médicale.

Et derrière tout cela, il y a les systèmes éducatifs, les universités, les laboratoires, les institutions de recherche et des siècles d'accumulation de savoir.

Derrière une grande partie de cela, il y a la société. Il y a des gens qui paient des impôts. Ajoutez maintenant à cela l'énorme accumulation de connaissances et de données créée par des milliards de personnes sur Internet.

Alors, nous devons poser une nouvelle question :

Le produit de la créativité d'une personne peut certes lui appartenir. Mais à qui appartient la valeur économique créée par l'accumulation de savoir commun de la société et de l'humanité qui rend cette créativité possible ?

Il n'y a pas de réponse facile à cette question. La propriété du savoir lui-même et le partage de la valeur économique construite sur le savoir commun ne sont pas la même chose. Je pense que l'un des débats les plus importants sur la propriété à l'ère de l'IA commencera ici.

L'ÉTATISATION EST-ELLE LA SOLUTION ?

Il ne faut pas non plus tomber dans un piège ici. Ce que j'appelle propriété sociale n'est pas la propriété de l'État. Prendre les moyens de production des mains du capital privé pour les mettre entre les mains de l'État ne signifie pas que le pouvoir économique et politique passe entre les mains de la société.

Le siècle dernier nous en a donné suffisamment d'exemples. En fait, lorsque le pouvoir économique et le pouvoir politique se rejoignent au même centre, une concentration de pouvoir bien plus grande peut en résulter.

C'est pourquoi ce que j'essaie de décrire comme « communisme utopique » n'est pas le modèle de propriété étatique de l'Union soviétique.

La propriété privée peut exister. La liberté d'entreprise peut exister. L'ingénieur, le scientifique, l'artiste, l'inventeur et l'entrepreneur peuvent recevoir leur part de la valeur qu'ils créent. Mais la société doit également recevoir sa part de la valeur créée par son propre capital commun et son accumulation de savoir.

Par des impôts ? Les impôts seuls peuvent-ils répondre à cette question ? Par des fonds de richesse sociale ? Par l'accumulation des revenus des ressources naturelles au nom de tous les citoyens ? Par le fait que la société soit actionnaire des technologies développées avec des ressources publiques ? Par le transfert direct à la société d'une part de l'augmentation de la productivité créée par l'IA et les robots ? Par une nouvelle structure inspirée du Fonds souverain norvégien ?

Peut-être par d'autres méthodes auxquelles nous n'avons pas encore pensé aujourd'hui. Les détails techniques de tout cela pourront être résolus plus tard. Mais nous devons d'abord débattre du principe :

Tout en reconnaissant le droit à la créativité individuelle, pouvons-nous aussi reconnaître le droit à l'accumulation sociale ?

RÉSOUDRE LE PROBLÈME DE LA PROPRIÉTÉ SUFFIT-IL ?

Disons que nous avons résolu le problème de la propriété. Nous avons partagé avec la société l'énorme augmentation de la production créée par l'IA et les robots. Nous avons éradiqué la pauvreté. Nous avons garanti les besoins fondamentaux des gens tels que l'éducation, la santé, le logement et la sécurité sociale. Travailler n'est plus une nécessité pour ne pas mourir de faim.

Avons-nous atteint l'utopie ?

Nous devons aussi discuter des libertés. L'humain n'est pas seulement un être économique. Le fait d'avoir le ventre plein ne le rend pas libre pour autant.

À une ère technologique où les algorithmes influencent les comportements des gens, leurs préférences politiques, leurs préférences de consommation, et même les rêves qu'ils font, à quel point l'humain pourra-t-il être libre ?

Je l'avais écrit dans le deuxième essai. Sauver l'humain de la faim ou du travail ne suffit pas.

Il faut lui laisser du temps pour penser, pour exprimer librement sa pensée, pour voyager, pour rêver, pour assurer sa rencontre avec l'art, pour créer et pour regarder un beau paysage sans rien faire.

La liberté, c'est la capacité de l'humain à être le maître de son propre temps et, tout en utilisant ce temps, de ne pas être confronté à la peur de la faim et de la pauvreté. La puissance économique qui soutient la liberté est nécessaire.

POUVOIR CONTRÔLER TROIS POUVOIRS

Peut-être que le problème fondamental du XXIe siècle sera de pouvoir limiter trois pouvoirs différents en même temps :

Le pouvoir du capital.

Le pouvoir de l'État.

Le pouvoir de l'algorithme.

Si nous limitons le pouvoir du capital et rendons l'État illimité, nous ne pourrons pas atteindre la liberté.

Si nous limitons le pouvoir de l'État et laissons la puissance économique et technologique à quelques entreprises, nous ne pourrons pas non plus l'atteindre.

Si nous limitons les deux et laissons les décisions concernant nos vies à des algorithmes qui nous connaissent mieux que nous-mêmes, cela pourrait faire émerger un autre pouvoir jamais vu dans l'histoire ; en réduisant la vie humaine à une rationalité algorithmique, nous pourrions nous transformer en humains sans âme oubliant l'amour, la compassion, la passion, la douleur, le bonheur. L'humain qui perd son âme perd aussi l'art et l'esthétique.

Nous ne pouvons pas sauver l'humain de la domination du capital pour le laisser à la domination de l'État. Nous ne pouvons pas le sauver de la domination de l'État pour le laisser à la domination de l'algorithme.

C'est là que la question « qui contrôlera ceux qui contrôlent ? » se pose à nouveau à nous.

NOUS NE NOUS RÉVEILLERONS PAS LE LENDEMAIN DANS L'UTOPIE

Ce que je défends depuis le début, c'est que nous sommes à la croisée des chemins dans ce grand processus de révolution technologique : fascisme numérique ou communisme utopique.

Nous devons ajouter une précision ici. Ce n'est pas un dilemme où ces deux options se présentent à nous en même temps et où nous devons choisir l'une ou l'autre. Ce ne sont pas deux chemins à égale distance.

Le fascisme numérique peut arriver beaucoup plus rapidement.

Si la puissance économique de quelques entreprises, la puissance politique de l'État, les données de milliards de personnes et la puissance algorithmique de l'IA se rejoignent, son infrastructure peut être établie en très peu de temps.

Quant au communisme utopique, ce n'est pas un ordre dans lequel nous nous réveillerons le lendemain matin. S'il doit être atteint, cela nécessite un processus de transition économique, politique et sociale.

Que remplacera l'ordre néolibéral qui vacille aujourd'hui ? Quel sera le rôle du marché et de l'État ? Quel équilibre sera établi entre la propriété privée et la propriété sociale ? L'IA et les données changeront-elles la relation entre la planification et le mécanisme des prix ?

Un ami, après mon dernier essai sur la Chine, m'a rappelé un concept très important : « le temps de digestion ». L'humanité a digéré la transformation économique et sociale créée par la révolution industrielle en environ deux siècles. Le capitalisme et le socialisme ont changé en s'affrontant, en se faisant concurrence et en s'influençant mutuellement.

Alors, combien de temps de digestion l'IA nous donnera-t-elle ?

Alors que la technologie change à une vitesse fulgurante, le droit, la politique, l'économie, la culture et la société pourront-ils changer à la même vitesse ?

Le fascisme numérique peut arriver très rapidement. Mais si l'utopie doit être construite, il faudra que la société la digère et construise ses institutions. Sans sombrer dans le féodalisme numérique et le fascisme numérique, et sans avoir encore atteint le communisme utopique, que mettrons-nous à la place du néolibéralisme durant cette période de transition de l'ère de l'IA ?

Je poursuivrai à partir de là dans le prochain essai. Bien sûr, si un nouvel ordre doit être établi dans un monde où il existe des inégalités entre les pays, remettre en question l'impérialisme sera également le sujet d'un autre article…

(1) Cyberpunk : Description d'un futur dystopique où la haute technologie et les grandes inégalités sociales coexistent ; où la puissance économique et technologique est concentrée dans de grandes entreprises, et où la surveillance et le contrôle numériques sont généralisés. Un sous-genre/esthétique de science-fiction dans la littérature et le cinéma…