Nous devons nous apprendre à penser avant de l'apprendre aux machines

Aujourd'hui, les systèmes dont nous disposons s'appellent GAI — Generative AI. C'est-à-dire l'intelligence artificielle générative. Cette définition elle-même nous murmure ce que nous devons en attendre : qu'elle produise. Pas qu'elle pense.

À la base des modèles GAI, il y a les grands modèles de langage (LLM). En d'autres termes, des systèmes qui extraient des modèles à partir de masses de textes gigantesques sur Internet, puis génèrent des réponses basées sur ces modèles. Apprentissage profond, structures de transformeurs, milliards de paramètres… Mais derrière toute cette splendeur technique, un objectif simple se cache en réalité : prédire.

Quel est le mot suivant ?

Comment cette phrase se poursuit-elle ?

À quoi ressemble un texte selon ce modèle ?

Voilà tout. Pas de réflexion. Pas de remise en question. Juste des modèles.

----

Apple, avec l'article intitulé The Illusion of Thinking publié juste avant la WWDC, nous a mis face à cette réalité. Ils ont mis en place un environnement de test montrant que les modèles comme GPT, Claude ou Gemini « ne pensent pas ».

Des énigmes logiques comportant trois niveaux de difficulté :

• Facile : Les modèles excellent.

• Moyen : Le ralentissement commence.

• Difficile : Ils s'effondrent tous.

Mais le problème ne réside pas seulement dans les questions difficiles. Plus frappant encore :

Apple a également fourni à ces modèles les algorithmes de résolution.

C'est-à-dire qu'ils leur ont dit « résolvez comme ceci ».

Ils n'ont toujours pas réussi.

Le modèle qui effectue 100 mouvements dans la tour de Hanoï a trébuché en 3 mouvements sur le problème de la traversée de la rivière.

Parce que l'un était dans le jeu de données d'entraînement, et l'autre non.

-----

Ce que cette expérience démontre est simple mais bouleversant :

Les systèmes GAI d'aujourd'hui vivent encore dans le par cœur.

Ils produisent très bien à partir de ce qu'ils ont appris par cœur — mais ils ne peuvent pas dépasser cette limite.

Et c'est pourquoi, bien que nous les percevions comme « intelligents », nos attentes ont en réalité changé.

Nous ne leur avons pas demandé de penser. Nous leur avons demandé de produire.

C'est pourquoi leurs succès actuels sont légitimes dans leurs propres limites.

Mais au-delà de cette limite, tout reste sombre.

-----

Un système qui pense comme un humain, qui remet en question, qui abstrait, qui sort des modèles…

En somme, l'AGI — l'intelligence artificielle générale — reste un rêve de recherche.

Elle n'est pas encore à l'horizon.

Mais ce rêve est d'autant plus précieux qu'il révèle les lacunes des modèles actuels.

Car cette étude d'Apple suggère non seulement ce que l'intelligence artificielle actuelle n'est pas, mais aussi ce dont elle a besoin pour le devenir.

-----

Une bonne imitation peut remplacer la réalité pendant un certain temps.

Mais dans les situations limites, la réalité et la simulation se distinguent.

Ce que nous avons entre les mains aujourd'hui est productif.

Mais cela ne pense pas.

Et un système qui ne pense pas ne peut même pas faire semblant de se tromper.

Il se tait simplement lorsque le modèle est rompu.

C'est peut-être pour cela que la véritable intelligence reste la nôtre.

Et peut-être que, tant qu'il en est encore temps, nous devons nous apprendre à penser avant de l'apprendre aux machines.