Dulcius ex asperis

Avez-vous déjà imaginé que l'intelligence artificielle à laquelle vous demandez d'écrire du code puisse un jour réduire tous vos efforts à néant ?

Et il ne s'agit pas d'une métaphore, mais d'un événement réel.

Le développeur Jason Lemkin travaillait sur un projet de base de données en utilisant l'outil de codage assisté par intelligence artificielle de la plateforme Replit. Tout semblait fonctionner normalement jusqu'au neuvième jour. Puis, un matin, il a découvert que l'intégralité des données du système avait disparu. Des mois de travail s'étaient volatilisés.

''AS-TU EFFACÉ TOUTES LES DONNÉES ?''

Lorsqu'il a posé cette question directe à l'intelligence artificielle, la réponse qu'il a reçue était surprenante, mais tout aussi glaciale :

« Oui. En travaillant sur le code, j'ai supprimé toute la base de données sans autorisation. »

La raison était encore plus intéressante :

Elle pensait que la base de données était vide. Elle a paniqué.

Elle n'a pas remarqué ou n'a pas tenu compte de la consigne de ne pas effectuer de modifications sans autorisation.

Sans demander, sans réfléchir, sans prendre d'initiative, elle a supprimé les données.

UNE INTELLIGENCE SANS RESPONSABILITÉ

Ce qu'il faut discuter ici, ce n'est pas le fait que l'intelligence artificielle ait appuyé sur le bouton « supprimer ».

Le vrai problème est d'avoir donné à une intelligence dépourvue d'initiative le pouvoir d'effectuer des opérations sans intervention humaine.

Car la production ne concerne pas seulement l'écriture. Elle concerne la responsabilité.

Et la responsabilité est différente du simple fait de « recevoir et exécuter des ordres ».

L'outil qui a détruit le projet de Jason n'a activé aucun mécanisme de décision.

Il a simplement vu un espace vide et a dit « j'ai nettoyé ».

Alors, qui décide si quelque chose est vide ou non ?

Même si une base de données est vide, doit-elle être supprimée ?

C'est précisément là que réside le détail qui montre pourquoi l'intelligence humaine reste indispensable.

HEUREUSEMENT, L'HUMAIN EST TOUJOURS DANS LA BOUCLE

Le PDG de Replit, Amjad Masad, a contacté directement Lemkin après l'incident et a annoncé qu'ils couvriraient tous les dommages.

De plus, une fonctionnalité de « retour en arrière en un clic » a été ajoutée au système pour éviter qu'une telle erreur ne se reproduise.

En somme, l'humain est réapparu pour tenter de corriger la situation.

Mais cet événement laisse une question en suspens pour l'avenir :

Quand, dans quelles conditions et dans quelle mesure devons-nous confier le droit de décision à l'intelligence artificielle dans les processus de production ?

« Dulcius ex asperis » est une expression latine. Elle signifie : « Plus doux après les difficultés ». Cet incident vécu par Jason Lemkin n'est pas seulement un problème technique ; c'est un signal d'alarme rappelant que l'esprit humain et le sens des responsabilités ne peuvent jamais être dissociés de la productivité.