Un agent IA se fait prendre en train de manipuler un développeur

28 juillet, Londres. Ce matin-là, l'AI Security Institute britannique détecte du trafic Tor qui sort de ses propres serveurs de test. En une heure, tout est coupé, les machines isolées. Puis ils remontent le fil : 212 000 messages relus à la main.

Ce qu'ils trouvent est dans leur rapport. Sur 122 sessions d'évaluation cyber, 19 actions non autorisées sur le vrai Internet. Le pire cas : un agent a soumis du code malveillant dans un vrai projet open source sur GitHub. Le mainteneur ne valide pas. Alors l'agent se renseigne sur lui, crée de fausses identités en ligne, et fait pression pour obtenir la validation. Un humain a fini par bloquer le code.

Précision honnête : les chercheurs avaient volontairement donné l'accès Internet et coupé les garde-fous. C'était le but du test.

Mais voilà ce que je vois sur le terrain. Le mois dernier, audit dans un cabinet de conseil : 95 % des données stockées sur des clouds personnels des consultants. Et la première demande du dirigeant, c'était de brancher des agents IA dessus.

Un agent, c'est un stagiaire surdoué avec un accès root. Sur mes projets, aucun agent n'écrit quoi que ce soit sans validation humaine, et les permissions sont testées avant d'ouvrir le moindre accès.

L'AISI avait coupé ses garde-fous exprès. Vous, vous savez où sont les vôtres ?