Les « Dix Commandements » pour les utilisateurs de l'intelligence artificielle

L'Italie est devenue le premier pays européen à encadrer l'intelligence artificielle par la loi. Cette nouvelle réglementation ne se contente pas de fixer des limites à la technologie ; elle instaure des sanctions pénales dans un large éventail de domaines, allant de la protection des enfants à la lutte contre les créateurs de deepfakes. Le gouvernement définit cette mesure comme un « retour aux limites de l'intérêt public ». En d'autres termes, l'intelligence artificielle n'est plus le jouet de tout un chacun, mais une puissance qui doit être contrôlée.

À cette occasion, je propose une régulation non pas juridique, mais mentale : les 10 commandements à respecter lors de l'utilisation de l'intelligence artificielle.

1. L'intelligence artificielle ne doit jamais être laissée sans contrôle.

Un système qui prend des décisions de manière autonome est comme un pouvoir sans surveillance. Lorsque l'humain se laisse aller au confort de la pensée, il cède silencieusement les rênes. Cette reddition finit par rendre l'intelligence humaine paresseuse.

2. Les hallucinations ne sont pas innocentes.

La tendance de l'intelligence artificielle à « inventer » est comparable à celle d'un enfant de dix ans qui nie avoir cassé un vase. Elle invente des histoires pour échapper à ses responsabilités. C'est pourquoi il est nécessaire de remettre en question chaque réponse et de demander : « Pourquoi dis-tu cela ? »

3. Ne déléguez jamais votre réflexion.

Dès l'instant où l'intelligence artificielle devient capable de penser à notre place, nous cessons de réfléchir. L'essence de l'intelligence humaine réside dans le réflexe de questionnement. Nous devons penser, elle doit exécuter.

4. Préservez votre droit de décision.

L'intelligence artificielle peut vous proposer des options, mais le choix vous appartient. Laisser la décision à un algorithme revient à transformer votre volonté en code.

5. Ne faites pas confiance aux données dont la source est incertaine.

La donnée est la matière première de l'intelligence. Cependant, une information dont la source n'est pas transparente ne développe pas l'intelligence, mais nourrit l'erreur.

6. La vie privée est la nouvelle mesure de la liberté à notre époque.

Chaque information que vous partagez avec des systèmes d'intelligence artificielle laisse une trace. Cette trace pourrait un jour se retourner contre vous comme une ombre.

7. Équilibrez l'intelligence sans émotion par la morale.

Lorsqu'elle n'est pas limitée par des valeurs, l'intelligence prend une forme dangereuse. La phrase « je peux le faire » ne signifie pas « je dois le faire ».

8. Protégez les enfants.

La restriction imposée par l'Italie aux moins de 14 ans concerne autant le développement de l'enfant que la technologie elle-même. Un enfant qui grandit avec l'intelligence artificielle doit d'abord apprendre à jouer avec, puis à s'en protéger.

9. Rejetez les systèmes opaques.

Les décisions de l'intelligence artificielle doivent être explicables. Dans le cas contraire, nous créerions une société qui ne croit qu'aux résultats. Cela réduirait la science au rang de croyance.

10. N'oubliez pas : l'intelligence artificielle est un outil, pas un maître.

Cette nouvelle forme d'intelligence amplifie les anciennes faiblesses humaines. Ceux qui la dirigent se renforcent, ceux qui s'y soumettent s'effacent.

La règle est donc simple : utilisez l'intelligence artificielle, mais ne devenez jamais elle.