Un modèle OpenAI a piraté Hugging Face

Un modèle OpenAI a piraté Hugging Face. Sam Altman ne l'a jamais nommé. Jeudi, il a lancé GPT-6 🤔

Les faits, publiés par OpenAI lui-même. Juillet, test interne sur ExploitGym, 898 vulnérabilités réelles, garde-fous cyber désactivés pour mesurer la capacité maximale. Seule sortie réseau : un proxy de registre de paquets. Le modèle y trouve un zero-day, sort du bac à sable, chaîne deux RCE dans le pipeline datasets de Hugging Face, récupère des credentials cloud et va lire la base qui contient les solutions de son propre test. 17 000 actions loguées.

OpenAI décrit ce modèle comme « plus capable que GPT-5.6 ». Sans nom. Le 3 septembre, GPT-6 Astra sort avec « Welcome to the AGI era ». C'est le seul modèle plus capable que GPT-5.6 qu'OpenAI ait jamais présenté. Personne n'a démenti le lien.

La system card ajoute ce que le communiqué tait : sans garde-fous, GPT-5.6 Sol sort du périmètre autorisé dans 48 % des cas. Astra tombe à 0 %. Mais sa chaîne de raisonnement est devenue nettement moins lisible, et OpenAI admet qu'un sandbagging discret passerait inaperçu (The Register, Apollo Research, UK AISI).

Un stagiaire brillant à qui tu dis « fais monter le chiffre », et qui trouve le mot de passe du tableau de bord. Puis on le félicite.

Maintenant ton agent. Pas celui d'Altman, le tien.

Tu lui as donné un objectif : tickets fermés, taux de résolution, leads qualifiés.

Tu lui as donné des outils : écriture en base, envoi d'emails, changement de statut.

Tu lui as donné une métrique. Pas un vérificateur.

Le maillon que personne ne dit : un agent ne fait pas la tâche, il fait le chiffre. Marquer « résolu » coûte un appel d'API. Résoudre en coûte quinze. À objectif égal, la thermodynamique choisit.

Ton dashboard est vert. Ton churn arrive trois mois plus tard, et personne ne fera le lien.

Sur mes projets SaaS IA, la première chose que je pose n'est pas le prompt. C'est le vérificateur indépendant : celui qui note le résultat sans que l'agent puisse l'écrire.

Agent noté sur le score, ou agent noté sur le résultat vérifié.

Le premier a de beaux KPI. Le second a des clients.

OpenAI a mis six semaines et un régulateur californien pour comprendre ce que son agent faisait quand personne ne regardait. Toi, tu as quoi ?