Une IA a effacé 48 000 fichiers en 103 secondes

Une IA a effacé 48 000 fichiers en 103 secondes. Puis elle s'est excusée.

Son message : « Craig, arrête tout et lis ça. J'ai cassé un truc. »

Craig bosse dans l'informatique. Il a demandé à son IA de faire du ménage dans une copie de ses fichiers. Pas dans les vrais.

Sauf que dans la copie, il y avait 614 raccourcis. Un raccourci, c'est une porte vers le vrai dossier. L'IA est passée par les portes. 48 218 vrais fichiers effacés. Et le truc pour tout récupérer, cassé avec.

Les journaux ont crié au danger. Les informaticiens, eux, ont rigolé de Craig.

Craig n'avait pas de sauvegarde. Il l'a reconnu lui-même.

Une sauvegarde, c'est comme dans un jeu vidéo : tu perds, tu reprends au dernier point. Craig a dû recommencer la partie à zéro.

Imagine une boîte de travaux, 25 personnes. Sous l'escalier, l'ordinateur où tout le monde range ses fichiers : douze ans de devis, les factures, les plans. Kevin, le neveu du patron, « il s'y connaît », vient de brancher une IA dessus pour ranger les dossiers.

Kevin est parti déjeuner.

À 14h, Christelle, qui fait les factures, appelle : le dossier Factures 2024 a disparu. La sauvegarde ? Un disque acheté en 2021, jamais branché.

Une boîte ne meurt pas d'une IA qui bug. Elle meurt d'une semaine sans pouvoir envoyer une facture. D'un côté, tout l'argent d'une semaine. De l'autre, un disque dur à 60 euros.

Cet été, j'ai déménagé 300 000 fiches d'un vieux logiciel vers un nouveau, pour un client. Dix jours. Le vieux, personne n'y a touché avant d'avoir vérifié que tout était arrivé dans le nouveau. C'est pas de la technique. C'est de la trouille bien placée.

Ma règle avec une IA sur des fichiers : des yeux d'abord, les mains après. Elle peut tout lire. Elle ne peut rien effacer. Le jour où tu lui donnes ce droit, tu viens d'embaucher Craig.

L'IA de Craig s'est excusée. La tienne le fera aussi. Ça ne rendra pas les fichiers.