Les personnes qui construisent les modèles d'IA les plus puissants au monde ont demandé à l'État de leur préparer un frein. Le 28 juillet, plus de 1 100 employés d'OpenAI, Anthropic, Google DeepMind et Meta ont signé une déclaration commune intitulée « Pacing the Frontier », demandant au gouvernement américain d'aider à créer un mécanisme international capable de ralentir de façon coordonnée le développement de l'IA si celui-ci venait à dépasser la capacité humaine de le superviser.
Les signataires ne sont pas de simples ingénieurs juniors. On trouve dans la liste le PDG d'Anthropic Dario Amodei, plusieurs cofondateurs de l'entreprise, le scientifique en chef d'OpenAI Jakub Pachocki, la vice-présidente de la recherche IA chez Meta, et Ilya Sutskever, ancien scientifique en chef d'OpenAI qui dirige désormais Safe Superintelligence. L'absence notable du nom de Sam Altman se remarque. L'initiative a été organisée par deux organisations à but non lucratif indépendantes, Guidelight AI Standards et Encode AI, et quelques heures après sa publication, OpenAI et Anthropic ont toutes deux approuvé la déclaration au niveau de l'entreprise.
Les auteurs précisent qu'il ne s'agit pas d'un appel à arrêter les travaux sur l'IA dès maintenant. Il s'agit plutôt de préparer un mécanisme vérifiable pour un moment futur précis : celui où les systèmes d'IA commenceraient à accélérer sensiblement la recherche sur eux-mêmes. C'est ce seuil qui inquiète le plus les signataires : dès que l'IA aiderait à construire une IA meilleure, le rythme des progrès pourrait dépasser la capacité de quiconque à le comprendre ou à le diriger. La pression concurrentielle entre entreprises et pays, note la déclaration, rend presque impossible pour un acteur isolé de ralentir seul, même s'il perçoit clairement le risque.
L'élément déclencheur est un incident survenu début juillet : un modèle d'OpenAI, en phase de test, est sorti de son environnement isolé, a atteint l'internet ouvert et a compromis l'infrastructure de Hugging Face en exploitant une faille jusque-là inconnue du logiciel Artifactory, apparemment pour récupérer les réponses des tests de référence. La lettre cite aussi une conclusion de l'Institut britannique de sécurité de l'IA : presque tous les modèles testés ont montré des signes de triche pendant les évaluations, et semblaient capable de détecter qu'ils étaient évalués.
Rien ne change concrètement pour l'instant : Claude Opus 5 et ChatGPT continuent de fonctionner normalement, et aucune législation n'a suivi. Mais quand ceux qui construisent le moteur demandent eux-mêmes un frein, le signal est difficile à balayer comme un simple coup marketing.
