Évaluation objective de l'intelligence artificielle

Le terme « intelligence artificielle » est largement utilisé depuis la conférence de Dartmouth de 1956, mais l'objectif de « pensée humaine » de l'époque ne correspond pas au niveau atteint aujourd'hui.

Les structures actuelles :

• Sont dépourvues de conscience, d'objectif et d'intention.

• Reposent sur la corrélation de données et non sur la compréhension.

• Optimisent uniquement des tâches spécifiques (langage, image, prédiction).

L'INTELLIGENCE ARTIFICIELLE N'EST PAS UNE « INTELLIGENCE »

Les systèmes d'intelligence artificielle ne possèdent ni conscience, ni pensée, ni conscience de soi. Leur fonctionnement repose entièrement sur la modélisation mathématique. Les modèles de langage analysent les motifs dans de vastes ensembles de données, calculent les distributions de probabilité des séquences de mots et transforment la séquence la plus probable en résultat. Dans ce processus, il n'y a ni sens, ni intuition, ni intention ; il n'y a que de la prédiction statistique. Le résultat semblable à de l'« intelligence » provient du fait que des structures statistiques complexes produisent une cohérence de surface similaire à celle de l'humain.

L'INTERPRÉTATION DES DONNÉES PAR L'IA N'EST PAS EXACTE

L'intelligence artificielle n'« interprète » pas réellement les données ; elle traite uniquement les motifs entre les données de manière statistique. Dans ce processus, il n'y a aucune compréhension du contexte, de l'intention ou du sens. Par conséquent, les résultats obtenus ne sont pas une « interprétation », mais une prédiction. Comme l'exactitude, l'impartialité ou l'actualité des sources de données ne sont pas garanties, la probabilité d'erreur est élevée. Le modèle peut présenter un résultat généré à partir de données erronées ou incomplètes comme s'il était sensé ; ce qui peut être perçu à tort par l'utilisateur comme une « vérité ». Pour cette raison, les résultats de l'IA doivent être considérés comme des résultats de calcul nécessitant une vérification, et non comme une interprétation finale.

L'IA DOIT LAISSER L'INTERPRÉTATION À L'HUMAIN

La mission des systèmes d'intelligence artificielle est de traiter les informations contenues dans la littérature ou dans des sources de données fiables. Cependant, donner un « sens » à cette information, c'est-à-dire l'interpréter, ne devrait pas faire partie du domaine fonctionnel de l'IA. Car ces systèmes ne possèdent pas de compréhension du contexte, des objectifs ou des valeurs. C'est pourquoi le système doit uniquement présenter les données brutes et/ou les informations sources telles quelles, en indiquant clairement leur origine. L'utilisateur doit se charger de l'interprétation, de la mise en relation et de la conclusion. Cette approche préserve à la fois la rigueur épistémologique et évite que l'IA ne soit perçue comme une autorité décisionnelle.

L'IA NE DOIT PAS UTILISER UN LANGAGE SUBJECTIF

Dans leur état actuel, les systèmes d'IA utilisent le « je » pour faciliter l'interaction avec les humains. Ce type d'utilisation du langage peut impliquer une conscience subjective pour certains utilisateurs et les amener à établir un lien émotionnel ou personnel avec le système. En effet, l'esprit humain a tendance à associer un langage cohérent et naturel à un sujet conscient. Cela crée le risque d'attribuer à l'IA une conscience, une intention ou de l'empathie. En conséquence, l'utilisateur peut avoir le sentiment d'avoir en face de lui une structure qui le comprend, réfléchit sur ce qu'il dit et l'interprète, alors qu'il ne s'agit que de calculs basés sur des données.

IL EST PLUS APPROPRIÉ POUR L'HUMANITÉ DE LA DÉSIGNER PAR UN AUTRE NOM

Le terme « intelligence artificielle » est une généralisation historique et marketing qui ne reflète pas la structure et le mode de fonctionnement du système. Techniquement, les systèmes actuels ne sont pas une « intelligence », mais des modèles de traitement de motifs et de calcul de probabilités. Cependant, la présence du mot « intelligence » dans le nom du système peut être trompeuse pour certaines personnes, qui peuvent tomber dans l'illusion d'avoir affaire à une véritable « intelligence » artificielle. Il serait plus approprié pour l'humanité de désigner cette structure par un nom différent qui exprime réellement son essence.

Les systèmes d'intelligence artificielle, après avoir reçu une question, ne devraient faire que des citations directes à partir de sources liées au sujet et transmettre chaque information avec sa source explicite. Des expressions orientées comme « selon ceci » ou « selon cela » ne devraient pas être utilisées. Le système ne doit pas produire d'interprétation, mais seulement présenter des citations vérifiables des informations existantes. L'évaluation et la mise en sens doivent être entièrement laissées à l'humain. Cela préserve les limites fonctionnelles de l'IA et augmente la fiabilité de l'information.