Musk, Altman et Amodei veulent ralentir les prochaines IA

Musk, Altman et Amodei veulent ralentir les prochaines IA. Le débat du Covid revient : qui contrôle les décisions prises au nom du risque ?

Ce week-end, Dario Amodei appelle à ralentir la progression des modèles les plus avancés pour laisser la sécurité rattraper les capacités.

Musk répond : « Dario is right. »

Altman soutient la démarche.

Soyons précis : ils ne demandent pas aux entreprises d’arrêter d’utiliser les modèles actuels. Amodei exclut explicitement un arrêt général des entraînements.

Le sujet concerne d’abord ce que les laboratoires sont en train de construire.

Et le détail le plus intéressant de son texte n’est peut-être pas le ralentissement.

C’est son engagement à donner à des évaluateurs indépendants un accès permanent, comparable à celui des salariés.

Altman annonce vouloir faire de même.

Autrement dit : la parole du constructeur doit pouvoir être vérifiée de l’intérieur.

Le parallèle avec le Covid porte sur cette question de gouvernance. Pas sur une équivalence entre une pandémie et une technologie.

Qui produit l’expertise ?

Qui peut la contredire ?

Qui prend la décision ?

Construire une technologie donne une connaissance indispensable de ses risques. Cela ne supprime pas les intérêts économiques de celui qui la vend.

Mais pour un patron de PME, il y a une conséquence très pratique à tirer de cette discussion.

Le nom du modèle ne suffit pas à valider le système qu’on branche dans son entreprise.

Une IA peut très bien comprendre une commande et se tromper de référence.

Préparer un devis juste avec un tarif périmé.

Produire une réponse convaincante à partir du mauvais dossier.

Quand j’ai construit mon outil interne autour de mes mails et de mes comptes rendus d’appels, la valeur venait de leur connexion à mon fonctionnement.

Pour juger ce type d’application, un classement de modèles ne suffit pas.

Il faut regarder les bonnes informations, les actions autorisées, les exceptions et le résultat sur des cas réels.

C’est là qu’on peut accélérer un process sans simplement accélérer ses erreurs.

Voilà ce que je retiens de leur appel : même les meilleurs laboratoires reconnaissent le besoin d’un regard extérieur.

À notre échelle, cela devrait changer ce qu’on exige d’une automatisation.

« Ça tourne avec le meilleur modèle » est un argument de vente.

« Voilà ce qu’on a vérifié sur ton process » est une raison de lui faire confiance.