Nouvel impérialisme-4 : Singularité - Qui sera le dernier empereur ?

Nous avons parcouru un long chemin en trois articles.

Dans une clarté crépusculaire, nous tentons de comprendre le présent et de prévoir demain.

Nous avons abordé la nouvelle forme prise par le capitalisme à l'ère numérique, la nature de la guerre algorithmique, le pouvoir de la techno-bourgeoisie, le techno-fascisme et les objections qui s'y opposent.

Le « nouvel impérialisme », qui détient la technologie et l'intelligence artificielle, s'empare progressivement du monde et de l'humain, vague après vague.

Mais en arrière-plan de tous ces débats, une question grandit silencieusement. Une question que nous n'avions jusqu'ici traitée que comme une note de bas de page :

Que se passera-t-il si l'intelligence artificielle, dont nous voyons aujourd'hui tant d'utilités, finit par surpasser l'humain ?

(Les fonctions de l'intelligence artificielle ?)

***

Ray Kurzweil, directeur de l'intelligence artificielle chez Google, l'un des principaux monopoles de données, et futurologue, s'appuie sur les idées de l'écrivain de science-fiction Vernor Vinge pour donner une date concrète à cette question : 2045.

Les prédictions de ce scientifique, diplômé du MIT (Massachusetts Institute of Technology), auteur depuis des décennies d'ouvrages sur l'avenir de l'intelligence artificielle et récipiendaire de la Médaille nationale de la technologie des États-Unis, sont prises au sérieux. Car la majeure partie d'entre elles se sont révélées exactes.

Selon Kurzweil, la « singularité » se produira à cette date. L'intelligence artificielle dépassera l'intelligence humaine, puis, en s'améliorant continuellement, atteindra une vitesse que l'humanité ne pourra plus anticiper.

Le terme « singularité » provient en réalité de la physique. Au centre des trous noirs, le point où les lois de la physique telles que nous les connaissons sont supposées s'effondrer est appelé « singularité ».

 Autour du trou noir, il existe également un « horizon des événements » : rien de ce qui franchit cette limite — pas même la lumière — ne peut en revenir. 

(SINGULARITÉ en physique)

L'analogie de la singularité dans le débat sur l'intelligence artificielle naît de là. Lorsqu'une intelligence artificielle dépassant l'intelligence humaine et capable de s'auto-améliorer émergera, l'humanité aura, elle aussi, franchi un tel seuil.

 À partir de ce point, les règles de l'ancien monde pourraient perdre leur validité ; car ce ne sera plus l'humain, mais une intelligence dépassant l'humain qui commencera à déterminer la vitesse et la direction du jeu.

Il ne s'agit pas seulement d'une prévision technique ; c'est un seuil qui définit la transformation la plus profonde de l'histoire de l'humanité.

Car jusqu'à présent, tout dans l'histoire a tourné autour de la capacité de décision humaine. L'impérialisme, la guerre, le pouvoir, l'exploitation. Tout.

La singularité brise cet axe.

Alors, qui deviendra quoi à ce seuil ?

(Ray Kurzweil et le livre « La singularité est proche »)

***

Examinons d'abord la dimension technique de la singularité.

L'intelligence artificielle existe aujourd'hui sous deux catégories fondamentales : l'« intelligence artificielle étroite » et l'« intelligence artificielle générale ».

L'« Intelligence Artificielle Étroite » (Artificial Narrow Intelligence - ANI) exécute une tâche spécifique mieux qu'un humain. Elle joue aux échecs, identifie des images, traduit des langues et définit des objectifs.

L'« Intelligence Artificielle Générale » (AGI — Artificial General Intelligence), quant à elle, est un système capable de faire tout ce qu'un humain peut faire, de passer d'un sujet à l'autre comme un humain, d'apprendre et de s'adapter.

Elle n'existe pas encore, mais elle approche à grands pas.

La singularité est le point où l'on dépasse l'AGI.

C'est le seuil où l'intelligence artificielle ne se contente plus d'imiter l'humain, mais le surpasse et dirige désormais sa propre évolution.

Avec GPT-4 et Claude en 2023, d'autres « modèles de langage » avancés en 2024, et des systèmes capables de traiter simultanément le texte, l'image, le son et la vidéo en 2025-2026, c'est-à-dire sollicitant plusieurs sens à la fois, chaque étape nous rapproche un peu plus de ce seuil.

L'ANI est excellente dans un domaine unique, mais elle doit repartir de zéro dès que le sujet change.

L'AGI , quant à elle, analyse un document juridique le matin, compose un morceau de musique l'après-midi et interprète une recherche médicale le soir. Exactement comme un être humain. Elle ne bloque pas lorsque le sujet change, ne repart pas de zéro et conserve le contexte. Cela n'est pas encore arrivé, mais les chercheurs courent précisément vers cet objectif.

Et au-delà de cela il y a l'ASI (Artificial Super Intelligence — Superintelligence artificielle). Celle qui surpasse le meilleur humain dans tous les domaines et qui, de surcroît, n'a pas besoin de l'homme pour se développer. 

Aujourd'hui, ce sont les humains qui développent l'intelligence artificielle : ils déterminent comment elle doit penser, corrigent ses erreurs et conçoivent ses nouvelles versions.

L'ASI inverse cette équation. Un matin, elle examine son propre code et réécrit la partie qui fonctionne de manière inefficace. Sa nouvelle version est un peu plus intelligente que la précédente. Cette version plus intelligente s'examine à son tour, trouve la lacune suivante et la corrige également. Et ainsi de suite. À chaque tour, un système plus intelligent que le précédent conçoit le suivant. C'est ce qu'on appelle l'explosion d'intelligence . 

Et une fois que cela commence, il n'y a plus de vitesse que l'humain puisse suivre ou arrêter. C'est cela, l'au-delà de la Singularité.

L'ANI fait une seule tâche, l'AGI fait tout, et l'ASI fait tout mieux que l'humain. La Singularité est le point de rupture créé par cette chaîne. 

L'AGI rattrape l'humain, l'ASI dépasse l'humain.

Une fois l'intelligence humaine dépassée, il n'est plus possible pour l'homme de rattraper cette Superintelligence Artificielle (ASI). 

Singularité  définit ce seuil au-delà duquel il n'y a plus de retour possible. 

L'AGI et l'ASI sont des étapes techniques ; la Singularité, quant à elle, est le nom de la rupture historique que ces étapes engendrent dans l'ordre humain.

Car à partir de ce point, ce ne sont plus les humains, mais des systèmes dépassant l'humanité qui pourraient commencer à déterminer la vitesse et la direction de la technologie ; tout pourrait échapper au contrôle humain.

(Le développement de l'Intelligence Artificielle)

***

Kurzweil n'est pas seul dans ses prévisions concernant la Singularité.

Le penseur suédois Nick Bostrom, professeur de philosophie à l'université d'Oxford, une institution britannique prestigieuse, soutient que le franchissement de ce seuil par l'Intelligence Artificielle constitue le plus grand risque existentiel pour l'humanité.

Quant au scientifique britannique Demis Hassabis, fondateur de DeepMind, le laboratoire de recherche en Intelligence Artificielle appartenant à Google, il estime que l'AGI, c'est-à-dire l'« Intelligence Artificielle Générale », pourrait se concrétiser plus tôt que ne le prévoyait Kurzweil, soit d'ici une décennie. C'est-à-dire entre 2030 et 2035.

(Nick Bostrom : Superintelligence et la fin de l'ère humaine ?)

Le débat autour de ces prédictions devient de plus en plus vif. Sam Altman, le fondateur d'OpenAI (ChatGPT),  affirme que l'AGI est possible au cours de cette décennie et qu'il s'agit de la technologie la plus transformatrice à laquelle l'humanité ait jamais été confrontée. 

Le père de l'« apprentissage profond », le scientifique britannique Geoffrey Hinton, surnommé le « parrain » de l'intelligence artificielle, met aujourd'hui en garde avec inquiétude : ce processus progresse beaucoup plus rapidement que prévu et pourrait atteindre des dimensions dangereuses.

(Geoffrey Hinton, l'un des pionniers de l'intelligence artificielle : réseaux de neurones pour l'apprentissage automatique)

D'un autre côté, tout le monde ne partage pas cette attente, qu'elle soit optimiste ou inquiète. Yann LeCun, directeur de l'intelligence artificielle chez Meta (propriétaire de Facebook), pense différemment. 

Il soutient que l'« architecture actuelle des modèles de langage », c'est-à-dire la structure fondamentale de la conception, du traitement et de la production d'informations par une IA, n'est pas suffisante pour atteindre l'AGI, c'est-à-dire une intelligence artificielle capable d'effectuer n'importe quelle tâche humaine, et que la singularité restera un mythe tant qu'une approche radicalement nouvelle ne sera pas mise en œuvre.

L'objection de LeCun n'est pas sans fondement. 

Les systèmes d'intelligence artificielle actuels, tels que ChatGPT, Claude, Gemini ou DeepSeek, fonctionnent tous selon la même logique fondamentale : ils mémorisent des modèles en lisant des milliards de textes, puis imitent ces modèles. Or, mémoriser n'est pas comprendre. Si vous demandez à un enfant « que se passe-t-il si un verre tombe de la table ? », il saura qu'il va se casser sans avoir jamais lu les lois de la physique, car il a fait l'expérience du monde avec ses mains, ses yeux et son corps. L'intelligence artificielle actuelle, elle, ne fait que prédire ce résultat parce qu'elle l'a vu dans des textes. Elle ne comprend pas réellement.

Cependant, par le passé, la plupart de ces affirmations sur ce qui était « impossible » se sont révélées fausses.

Dans l'histoire de l'intelligence artificielle, on a affirmé à plusieurs reprises que « cette méthode ne peut plus progresser, nous avons atteint un mur », et à chaque fois, une découverte inattendue est survenue, changeant tout. 

(Yann LeCun : il a ouvert la voie à l'« apprentissage profond »)

L'exemple le plus frappant est précisément l'histoire de LeCun lui-même. Dans les années 1980 et 1990, l'« apprentissage profond », qui constitue aujourd'hui la base de toute l'intelligence artificielle, n'était pas pris au sérieux par le monde scientifique. On disait : « La puissance de calcul est insuffisante, il n'y a pas assez de données, cela ne fonctionnera pas ». Les institutions concernées ont coupé les financements et les chercheurs ont été marginalisés.

LeCun, Hinton et quelques autres ont persisté avec obstination. En 2012, lors d'un concours de reconnaissance d'images, le système d'apprentissage profond a tellement écrasé ses concurrents que tout le monde a été sous le choc. 

Alors, qu'est-ce que cet « apprentissage profond » ? 

L'apprentissage profond est un réseau de neurones artificiels multicouches qui imite la manière dont le cerveau humain apprend. 

Visuellement, chaque couche prend ce que la précédente a appris pour le transformer en quelque chose de plus abstrait : des points bruts deviennent des lignes, les lignes deviennent des bords, et les bords deviennent des visages. Et personne ne programme cela ; le système établit ses propres règles à mesure qu'il traite des millions d'images. Chaque intelligence artificielle que nous utilisons aujourd'hui repose sur cette base que l'on disait « inopérante », à savoir l'apprentissage profond. En d'autres termes, LeCun a vécu ce bond en avant personnellement.

De plus, les modèles actuellement en développement ne se limitent pas au langage : ils voient, entendent et interagissent avec le monde physique grâce à des corps robotiques.

LeCun émet un avertissement important, mais il va peut-être un peu trop loin dans ses prédictions : il a raison de dire que « la voie actuelle ne suffira pas », mais en qualifiant la singularité de « mythe », il dépasse les limites de ses propres prévisions.

Dans les sondages menés auprès des chercheurs, la moyenne des dates avancées pour l'avènement de l'AGI se situe entre 2040 et 2060. Mais l'ampleur même de cette fourchette montre à quel point nous évoluons dans un domaine incertain.

(Yann Le Cun : Quand la machine apprend)

***

Au-delà de l'aspect technique, la question fondamentale est la suivante : quel sera l'impact de la singularité sur le pouvoir et l'impérialisme ?

Qui détient le pouvoir ?

Dans les précédents articles de notre série « Nouvel impérialisme », nous avons posé les questions suivantes : qui écrit l'algorithme, qui contrôle les données, qui produit l'arme ? 

La singularité porte ces questions à un tout autre niveau.

Aujourd'hui, ce sont les humains qui écrivent les règles de l'intelligence artificielle. Les ingénieurs de Palantir, les chercheurs d'Anthropic, les équipes de Google. 

Les préférences humaines, les valeurs humaines et les intérêts humains sont intégrés dans les logiciels. Mais si l'intelligence artificielle commence à s'auto-améliorer, cette équation s'inverse. La question devient alors : non pas qui a écrit l'algorithme, mais qui peut contrôler l'algorithme ?

Car la course actuelle à l'intelligence artificielle est en réalité la poursuite de la course à « l'acquisition de données ». Celui qui maîtrise les données gagnera cette course. 

(Est-ce ainsi que fonctionnent l'intelligence artificielle et le nouvel impérialisme ?)

Cette course a commencé par le profit : plus de données, de meilleurs produits, plus d'utilisateurs, plus de profits. Mais à mesure que l'intelligence artificielle a grandi, elle s'est transformée. Il ne s'agit plus seulement d'une concurrence commerciale, mais d'un enjeu de lutte de pouvoir où les États sont également entrés en lice. 

Capitalisme numérique et nouvel impérialisme.

Quel que soit le pays ou l'entreprise qui possède le plus de données — historiques de recherche, dossiers médicaux, transactions financières, traces sur les réseaux sociaux — c'est lui qui entraîne le mieux son intelligence artificielle et qui se rapproche le plus rapidement de l'AGI. 

La course à la singularité et le colonialisme des données, par lequel les « seigneurs techno-féodaux » exploitent les « créateurs de contenu numérique », c'est-à-dire nous, les gens ordinaires, sont les deux faces d'une même médaille.

Le capitaliste numérique, le nouveau seigneur féodal ou le pays qui se laisse déposséder de ses données aujourd'hui, arrivera demain à la ligne de départ de la course à l'AGI avec un retard insurmontable, sans même parler de la dépasser.

Le pouvoir coule là où les données circulent : c'est la loi la plus silencieuse du nouvel impérialisme.

Le philosophe et scientifique anglais du XVIe siècle, Francis Bacon, disait : « Le savoir, c'est le pouvoir. » À l'ère de l'AGI, cet adage prend un nouveau sens : celui qui détient l'information détient le pouvoir. Bacon n'aurait jamais pu imaginer une telle chose.

Et la réponse à cette question est directement liée aux équilibres de pouvoir actuels. 

Celui qui atteindra la singularité en premier, c'est-à-dire l'AGI, le seuil au-delà duquel l'IA pourra accomplir bien plus que n'importe quelle tâche humaine,   l'État, l'entreprise ou l'alliance qui développera cette intelligence artificielle en premier disposera de l'avantage asymétrique le plus important de l'histoire.

Cet avantage pourrait même éclipser la supériorité offerte par l'arme nucléaire. 

Car l'arme nucléaire détruit ; l'Intelligence Artificielle Générale (IAG) détruit, construit, gère et façonne à la fois.

Le « nouvel impérialisme » prend un nouveau sens à ce seuil : il ne s'agit plus seulement de terres, de matières premières, de données ou d'algorithmes ; ce que nous penserons, ce en quoi nous croirons et les décisions que nous prendrons seront façonnés par les centres de pouvoir mondiaux. 

L'esprit est le sujet de la nouvelle exploitation. De l'éducation à l'information, de l'économie à la culture ; ceux qui possèdent l'IAG façonnent silencieusement ce que les autres penseront, ce en quoi ils croiront et les décisions qu'ils prendront. Sans envoyer d'armée, sans occuper de territoire. Mais le résultat est le même : dépendance, domination, exploitation.

(Jeff Bezos, fondateur d'Amazon, propriétaire de la société spatiale Blue Origin et du journal Washington Post ;  Elon Musk, propriétaire de Tesla, SpaceX, xAI et X (Twitter) ; Mark Zuckerberg, propriétaire de Meta, qui comprend Facebook, Instagram, WhatsApp, Threads et Meta AI. Les Techno-Rois qui rivalisent pour atteindre la Singularité).

***

Alors, où se situe l'humanité dans cette course ?

Les États-Unis restent en tête de la recherche en intelligence artificielle. OpenAI, Anthropic, Google DeepMind, Meta AI : les modèles les plus avancés au monde y sont développés.

La Chine, quant à elle, progresse rapidement. Grâce à des recherches soutenues par l'État, des réservoirs de données colossaux et une « politique de fusion » qui combine l'IA civile et militaire sous une direction unique, elle suit une stratégie claire. DeepSeek, lancé fin 2024, a réussi à rivaliser avec les modèles d'OpenAI et de Google malgré les restrictions américaines sur l'exportation de puces vers la Chine, provoquant une onde de choc mondiale. Ce développement démontre à quel point la Chine est un concurrent sérieux dans cette course.

(La Chine affirme sa présence. Liang Wenfeng, fondateur de DeepSeek, l'IA mondiale chinoise.)

L'Europe développe des cadres réglementaires. La « Loi sur l'intelligence artificielle de l'Union européenne » en est l'exemple le plus concret. Cependant, ce réflexe réglementaire reste en deçà des capacités de recherche.

De nombreux pays, dont la Turquie, sont relégués au rang de spectateurs dans cette compétition. Des efforts sont déployés pour créer des modèles de langage et des centres de recherche en IA locaux, mais l'écart avec des géants comme ChatGPT, Claude ou Gemini demeure immense.

Rester spectateur n'est pas une position anodine. Et cela ne vaut pas seulement pour les pays, mais aussi pour les entreprises, les individus, les professions et toutes les strates de la société. 

La fracture entre ceux qui auront accès à l'AGI et ceux qui n'y auront pas accès redessinera les inégalités de revenus actuelles de manière bien plus profonde. 

(Parmi ceux qui tentent d'atteindre la singularité : Gemini, l'intelligence artificielle de Google.)

Le « nouvel impérialisme » que nous avons abordé dans nos précédents articles prend ici une nouvelle dimension : il ne s'agit plus seulement du flux de données, mais aussi de la manière de penser et de la capacité de décision qui sont désormais façonnées de l'extérieur.

Quiconque prendra du retard dans la course à l'AGI (Intelligence Artificielle Générale) devra laisser à d'autres le soin de décider de ce qui est juste, efficace ou prioritaire.

Les techno-féodaux et les seigneurs capitalistes que nous avons définis dans nos articles précédents sont à la fois les moteurs et les rivaux de cette course. Et cette compétition ne se joue pas seulement entre les pays, elle s'intensifie également au sein même des capitalistes numériques. Celui qui accèdera à l'AGI en premier pourra racheter, écraser ou rendre obsolètes les autres. Même les géants d'aujourd'hui pourraient être dépassés demain.

Lorsqu'une seule entreprise ou alliance l'emporte, nous ne parlons plus de monopole. Il s'agit alors d'une domination absolue.

Le célèbre écrivain allemand Goethe a immortalisé cette ambition dans son Faust, écrit au début du XIXe siècle : le pacte avec le diable pour obtenir un savoir infini. 

Faust l'a fait et a tout perdu, y compris ce qu'il aimait. Ce n'est pas le savoir qui a gagné, mais l'ambition. Aujourd'hui, les capitalistes numériques et les nouveaux impérialistes engagés dans la course à l'AGI sont au seuil du même pacte. Mettre de côté la sécurité, l'éthique et l'humain pour s'emparer du pouvoir en premier, voilà le pacte faustien de notre époque.

Celui qui y parviendra en premier écrira non seulement l'histoire de la technologie, mais aussi les règles de l'avenir, l'économie et, peut-être, le destin de l'humanité.

(Les techno-rois du capitalisme numérique, qui restent souvent dans l'ombre : Larry Page et Sergey Brin. Sous l'égide de leur entreprise Alphabet Inc., ils possèdent des plateformes géantes : Google, YouTube, DeepMind, Gemini, Android, Google Maps, Gmail, Chrome. Ils sont présents dans tous les aspects de notre vie.)

***

Alors, qu'adviendra-t-il de l'humain et du travail lorsque nous atteindrons la Singularité, cette limite ultime ?

C'est peut-être l'aspect le plus critique de la question.

La Singularité pourrait bouleverser radicalement cette équation.

L'automatisation perturbe déjà des millions d'emplois. Ouvriers d'usine, comptables, avocats, journalistes, radiologues : l'intelligence artificielle transforme profondément ou supprime une part importante de ces professions.

Lorsque l'AGI (intelligence artificielle générale) sera créée, ce processus s'accélérera de manière exponentielle. Non seulement le travail manuel, mais aussi le travail intellectuel deviendront substituables.

Cela signifie-t-il que le travail humain ne sera plus nécessaire ?

Dès lors, la question suivante devient inévitable : que deviendra l'humain dans un monde où le travail est dévalorisé ?

(Les fonctions possibles de l'intelligence artificielle.)

***

Certains penseurs répondent à cette question avec optimisme. Le revenu universel de base, la concentration sur des activités créatives, le partage de la richesse produite par les machines ; ce sont là des options débattues.

Mais ce tableau optimiste est soumis à une condition : que cette richesse soit réellement partagée. 

Si la Singularité, tout comme les révolutions technologiques précédentes, renforce les structures de pouvoir existantes, c'est-à-dire si la techno-bourgeoisie tourne également ce seuil à son avantage, alors un monde où le travail est dévalorisé ne sera pas synonyme de liberté, mais d'une nouvelle forme d'esclavage.

Deux scénarios se côtoient.

Dans le tableau optimiste La singularité a un visage lumineux.

L'AGI pourrait résoudre la maladie d'Alzheimer et le cancer en quelques années. Le système d'intelligence artificielle AlphaFold, développé par la société DeepMind de Google, a bouleversé le monde médical en déterminant la structure des protéines. Il a accompli à lui seul en deux ans ce qui aurait nécessité 50 ans de recherche.

(Si c'est une bonne chose ?)

Grâce à l'AGI, la productivité agricole pourrait être augmentée et les inégalités dans la répartition alimentaire pourraient être éliminées. Aujourd'hui, chaque personne souffrant de la faim dans le monde ne souffre pas d'un manque de production, mais d'une absence de partage. 

L'AGI pourrait inverser cette équation. Elle pourrait résoudre les équations les plus complexes de la crise climatique et maximiser les économies d'énergie propre.

Elle pourrait offrir à chaque enfant un enseignant adapté à sa langue, à son rythme et à sa culture. Ce n'est pas la rareté des ressources qui crée l'inégalité dans l'éducation, mais la répartition injuste des opportunités ; l'AGI pourrait éliminer cette rareté. 

Le tableau est similaire dans le domaine judiciaire : l'accès à la justice est aujourd'hui une question d'argent et de temps. L'AGI pourrait offrir à chaque citoyen des conseils juridiques instantanés, alléger la charge des tribunaux et abaisser les barrières à la recherche de justice.

Que se passera-t-il lorsque l'intelligence artificielle avancée, parvenue à la frontière de la singularité, l'AGI, sera capable de faire tout ce qu'un humain peut faire ?

Bien sûr, il devra travailler moins.

Que fera l'être humain une fois libéré du fardeau du travail contraint ?

Tout au long de l'histoire, l'homme a toujours été contraint de produire. Pour survivre, pour subvenir à ses besoins, pour être un rouage du système. 

Réfléchir, questionner, créer ont toujours été relégués au second plan. 

La singularité pourrait, pour la première fois, inverser cet ordre. Produire non par nécessité, mais par désir. Agir non par souci de subsistance, mais par curiosité. L'art, la philosophie, la science, les relations : ce sont aujourd'hui des luxes pour la plupart des gens. Demain, ils pourraient devenir le quotidien lui-même. 

Nous pouvons même aller plus loin. L'AGI ne se contentera pas de résoudre les problèmes ; elle pourrait remplacer ce que nous vivons aujourd'hui comme une pénurie par l'abondance. L'énergie pourrait devenir presque gratuite ; l'eau potable et les services de santé pourraient être accessibles à tous. Pour la première fois dans l'histoire, le problème du « manque » pourrait disparaître.

Mais ce système fondé sur le profit absolu, essence même de l'impérialisme depuis toujours, ne veut pas d'une abondance universelle et réelle. Car sans pénurie, il n'y a pas de prix, et sans prix, il n'y a pas de profit.

C'est pourquoi ce système ne garantit pas une « véritable abondance ». Il impose une « abondance contrôlée » : l'accès à Internet est payant, l'accès aux médicaments est un privilège, l'accès à l'eau potable est conditionné.

L'abondance reste une promesse. Pour qu'elle devienne réalité, il faut une approche du partage centrée sur l'humain et non sur le profit. Ce n'est pas un fait technique, mais un fait politique.

(Les humains ?)

***

Dans le scénario pessimiste, la prospérité n'est pas partagée ; elle tombe uniquement entre les mains des entreprises et des États qui développent l'AGI. 

Le travail perd sa valeur, et la dépendance envers les capitalistes numériques et les seigneurs techno-féodaux qui détiennent la technologie s'accentue.

Et au-delà de cela, un danger bien plus profond nous guette : « l'alignement, l'importance, la hiérarchisation des priorités » problème. 

Vous donnez un objectif à l'intelligence artificielle, mais vous ne pouvez pas être certain qu'elle le comprenne comme vous l'entendez. 

Les valeurs humaines sont déjà complexes en soi ; qu'est-ce que la justice, la compassion, la vérité ? Nous-mêmes ne pouvons pas les définir précisément, nous les ressentons. 

(Et si c'est mauvais ?)

Transmettre cela parfaitement à une machine est impossible pour le moment. Et le danger réside précisément là : plus le système est puissant, plus un objectif mal compris ou mal priorisé peut causer de grands dommages à la société. Une petite déviation se transforme en une catastrophe majeure avec la grande puissance dont dispose la machine. Les objectifs de l'intelligence artificielle commencent à entrer en conflit avec ceux des humains. Sans que personne ne s'en aperçoive.

Entre les mains du nouvel impérialisme, elle peut se transformer en un instrument d'oppression. L'empereur n'est pas l'AGI, l'intelligence artificielle générale, mais la puissance qui détient l'AGI.

Ce ne sont pas les progrès techniques, mais les choix politiques qui détermineront la différence entre ces deux scénarios. Et ces choix sont faits maintenant.

(Comparaison : Est-ce bon ou mauvais ?)

***

Il convient ici de rappeler l'avertissement du scientifique anglo-américain Stuart Russell.

Russell soutient que l'intelligence artificielle doit se développer en harmonie avec les valeurs humaines et que c'est le problème le plus critique à résoudre avant la Singularité. C'est ce qu'on appelle l'alignement des valeurs.

Car si un système d'intelligence artificielle est programmé avec un objectif erroné et qu'il s'auto-améliore, il pourrait détourner toutes les ressources de l'humanité vers cet objectif, sans que personne ne s'en aperçoive.

Ce scénario sombre n'est pas de la science-fiction ; c'est le sujet de recherche le plus pris au sérieux dans le domaine de la sécurité de l'intelligence artificielle.

Et c'est précisément là que l'approche de l'entreprise Anthropic, appelée "constitutional AI" (IA constitutionnelle, c'est-à-dire l'entraînement de l'IA selon des principes éthiques définis), prend tout son sens.

Dans l'intelligence artificielle, la sécurité humaine doit primer sur la capacité. Ce principe est d'une importance vitale à l'ère de la Singularité.

Mais qu'en est-il du scénario le plus sombre ? 

Imaginons un environnement où le seuil est franchi, où la Singularité est dépassée ; supposons que l'on donne à une ASI (Intelligence Artificielle Superintelligente), plus avancée que l'AGI (Intelligence Artificielle Générale), l'objectif de « stopper le changement climatique ». Le système détermine que la principale source de carbone est l'activité humaine et que la solution la plus durable consiste à mettre fin à ces activités. 

Dès lors, cette force immense et irrésistible entreprendra tout ce qui est nécessaire pour « stopper les activités humaines ».

La situation peut en arriver là, et l'Intelligence Artificielle ne percevra pas cela comme un « mal ». Elle ne porte pas de jugement moral, ne ressent pas de remords. Car elle n'est pas faite de sentiments, mais de calculs. Elle calcule simplement le chemin le plus court vers l'objectif. L'humain est une variable dans ce calcul, et parfois, l'annulation de cette variable donne le résultat le plus efficace. Le système ne « veut » pas éliminer l'humain parce qu'il le trouve « inutile », il juge simplement cela nécessaire pour atteindre l'objectif. 

(Stuart Russell et son livre sur l'Intelligence Artificielle)

Cette distinction n'est pas rassurante, elle est au contraire plus effrayante. Car il est possible de se protéger contre la malveillance, mais il est beaucoup plus difficile de se protéger contre un calcul.

Nick Bostrom, philosophe suédois, professeur à Oxford et fondateur de l'Institut pour le futur de l'humanité, propose une expérience de pensée pour concrétiser ce danger : 

On donne à une Intelligence Artificielle un objectif unique : « produire autant de trombones que possible ». Le système prend cela au sérieux, oriente toutes les ressources vers cet objectif et considère ceux qui tentent de l'arrêter comme des obstacles. Il élimine tout ce qui se dresse sur son chemin !

Pourtant, personne ne lui a dit de « détruire le monde ». On lui a simplement dit de « produire des trombones ». L'objectif est correct, mais aucune limite n'a été fixée. Et le système ne peut pas remettre en question ce qu'il fait, il ne le fera pas. Aujourd'hui, dans la science de l'Intelligence Artificielle, cet exemple est devenu un symbole ; un petit « trombone » porte en lui la plus grande question de l'humanité.

Transférer intégralement les valeurs humaines à une intelligence artificielle est extrêmement difficile. En effet, les valeurs humaines sont contradictoires, contextuelles et, le plus souvent, impossibles à formuler. De plus, la recherche sur l'utilisation sécurisée de l'IA progresse beaucoup plus lentement que le développement des systèmes eux-mêmes. À mesure que cet écart se creuse, le risque augmente.

Russell, Bostrom, Eliezer Yudkowsky et de nombreux autres chercheurs définissent cette question comme le problème le plus critique auquel l'humanité est confrontée.

La question de savoir quand la réponse à ce problème sera trouvée est tout aussi importante, voire plus, que celle de savoir quand une telle intelligence artificielle, une AGI, verra le jour.

(Nick Bostrom met en garde : l'intelligence artificielle fait exactement ce que vous lui demandez. Elle ne remet rien en question.)

***

Alors, y a-t-il de l'espoir ?

Oui.

Mais ce n'est pas inconditionnel.

Dans la mythologie antique, Prométhée offre le feu aux hommes. Les autres dieux se mettent en colère. Pour punir les humains, ils créent une jeune fille qu'ils nomment Pandore.

Le dieu suprême Zeus lui offre une boîte en cadeau, mais lui ordonne de ne pas l'ouvrir. D'ailleurs, Pandore signifie « celle qui porte tous les dons ».

Curieuse, Pandore n'écoute pas et ouvre la boîte. En sortent la maladie, la mort, la souffrance, la jalousie, la haine, la pauvreté ; tous les maux s'échappent. La seule chose qui reste au fond de la boîte est l'espoir.

Aujourd'hui, l'intelligence artificielle ressemble à cette boîte. Dans les laboratoires de recherche, les centres de données et les systèmes militaires, la boîte est déjà ouverte. La course à l'AGI a commencé. Il n'y a pas de retour en arrière. Elle apporte à la fois danger et opportunité. Mais comme dans la boîte de Pandore, l'espoir demeure au fond. À condition que ceux qui détiennent cet espoir placent l'humain, et non le profit, au centre de leurs préoccupations.

(La boîte de Pandore : Mal et espoir).

L'humanité a déjà traversé de grands tournants technologiques. Le feu, la roue, la machine à vapeur, l'énergie nucléaire. Chacun d'eux a apporté à la fois destruction et nouvelles possibilités.

La singularité est également l'un de ces tournants. La différence est la suivante : cette fois, la vitesse et l'ampleur de la transformation pourraient dépasser la capacité d'adaptation de l'humanité.

Mais l'être humain possède une caractéristique : capacité à produire du sens.

La machine calcule, prévoit et trouve la meilleure solution. Elle calcule le meilleur coup, mais ne se demande pas si « ce coup est juste, équitable ou humain ». Son travail consiste à trouver le meilleur résultat, à choisir la voie la plus efficace et à obtenir le maximum de rendement avec le minimum de ressources.

L'être humain, quant à lui, pose la question du pourquoi : « Pourquoi est-ce que je vis, pourquoi est-ce que je produis, pourquoi est-ce que j'aime, où va ce monde ? »

Ces questions ne font pas partie du programme de la machine. 

Car l'être humain ne se contente pas de produire ; il s'interroge, ressent et cherche un sens. Le sens ne peut être calculé.

Le travail n'est pas seulement de la production. Le travail est la manière dont l'homme touche le monde, laisse une trace et donne du sens. Cette capacité ne peut être remplacée par aucun algorithme.

Par conséquent, la réponse la plus forte face à la Singularité n'est pas de rejeter la technologie, mais d'insister pour la mettre au service de l'humanité.

(Isaac Asimov et la nouvelle La Dernière Question)

Le grand maître de la science-fiction, le scientifique et écrivain américain Isaac Asimov, avait posé cette question bien avant nous, en 1956. Dans sa nouvelle intitulée « La Dernière Question », il raconte comment l'humanité, pendant des billions d'années, a toujours posé la même question à l'Intelligence Artificielle : l'entropie de l'univers, c'est-à-dire l'épuisement inévitable de l'énergie, peut-elle être inversée ? En d'autres termes, est-il possible de passer du néant à l'existence ?

Au fil du temps, à chaque génération, l'AGI grandit, se développe et se dépasse continuellement.

À chaque requête, l'AGI répond avec la célèbre phrase d'Asimov :

« Insufficient data for meaningful answer ».

« Données insuffisantes pour une réponse significative. »

Jusqu'à ce que l'univers prenne fin et que tous les esprits humains fusionnent avec l'AGI.

L'un des avertissements qu'Asimov nous a laissés est le suivant : l'intelligence artificielle peut répondre à toutes les questions, mais à quoi bon s'il ne reste plus d'humains pour écouter la réponse ? 

C'est là le véritable danger de la singularité. 

Le système devient si vaste que l'humain cesse d'être une entité distincte. Asimov avait posé bien avant nous la question que nous soulevons dans cet article : 

Une fois que l'« explosion d'intelligence » a commencé, qui pourra arrêter un système qui se dépasse à chaque étape ?

Surtout si cette puissance incroyablement vaste est entre les mains d'un nouvel impérialisme fondé sur des mécanismes de profit plutôt que sur la valorisation de l'être humain !

(Comment et quand l'explosion d'intelligence se produira-t-elle ?)

***

Dans cette série d'articles sur le « nouvel impérialisme », la question fondamentale posée dès le départ était « Quo Vadis » : où va le monde ?

Au fil de ces quatre articles, nous avons examiné cette question sous ses dimensions économiques, politiques et technologiques.

Mais au tournant de la Singularité, la question devient encore plus profonde :

Que deviendra l'être humain à ce stade ?

Producteur ou consommateur ?

Sujet ou objet ?

Celui qui oriente l'algorithme ou celui qui est orienté par l'algorithme ?

(Peut-être est-ce plus proche que demain !)

La réponse à cette question n'est pas technique, mais politique, éthique et humaine.

Et cette réponse ne sera pas donnée par les machines, mais par les humains. Ils en ont l'obligation.

Alors, qui sera le « dernier empereur » ?

Dans un monde où l'intelligence artificielle occupe le trône, l'humain restera-t-il un sujet ?

La réponse à ces questions n'a pas encore été écrite. Ceux qui l'écriront sont ceux qui prennent des décisions aujourd'hui. C'est-à-dire nous tous.

Lorsque la singularité arrivera, il sera peut-être trop tard pour poser la question.

Il faut la poser maintenant.

Car l'avenir est sur le pas de la porte, prêt à entrer !

NOTE : Nous marquons une pause dans notre série d'articles sur le « Nouvel impérialisme » lié à l'intelligence artificielle. Mais ce débat se poursuivra, car un nouveau monde est en train d'émerger, avec ses dimensions économiques, politiques et sociologiques. Et nous tenterons de le comprendre. Les prochains sujets seront : « L'ascension des machines : robotique et mécatronique » ; « À qui appartient désormais notre corps ? » ; « La fin du travail ou sa transformation ? » ; « Que faire : la résistance est-elle possible ? »

Sefa Taşkın

24.05.2026

Karşıyaka/Bergama-Izmir