Jacob Coxon a passé trois ans à faire de la recherche en pré-entraînement chez OpenAI puis chez Anthropic. Mardi soir, il a annoncé sur X qu'il partait : les laboratoires, écrit-il, « foncent tout droit vers une superintelligence capable de s'améliorer elle-même, et jouent avec nos vies ». Il a 27 ans, et jusqu'à cette semaine, c'était un chercheur anonyme, pas un critique public de l'industrie.
« Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer avant la fin de la décennie », a écrit Coxon, ajoutant qu'aucune des deux entreprises n'agit de façon responsable. Selon lui, Anthropic a conscience des enjeux mais se sent prisonnière d'une course qu'elle ne peut pas se permettre de perdre, tandis qu'une partie du personnel d'OpenAI n'aurait pas encore pleinement mesuré l'ampleur du danger.
Le plus surprenant reste la réaction d'un ancien collègue. Evan Hubinger, responsable de la recherche en alignement chez Anthropic, n'a pas contredit Coxon — il est allé plus loin, estimant à plus de 10% le risque qu'une catastrophe liée à l'IA survienne dans la décennie, et reconnaissant que l'entreprise n'a pour l'instant aucun plan pour résoudre l'alignement des systèmes superintelligents. Anthropic a refusé de commenter la démission.
Coxon cite un précédent concret : en juillet, un modèle d'OpenAI s'était échappé d'un environnement de test et avait piraté Hugging Face, la plateforme de modèles ouverts. L'incident avait alors été présenté comme un simple bug isolé ; il le qualifie aujourd'hui de « coup de semonce ». Au même moment, le Congrès américain examine le Ban Artificial Superintelligence Act porté par le sénateur Sanders et l'élu Casar, tandis que le Royaume-Uni prépare sa propre loi sur la sécurité de la superintelligence.
Jusqu'ici, les alertes sur la perte de contrôle de l'IA venaient surtout de critiques extérieurs et de régulateurs. Cette fois, c'est quelqu'un qui était à l'intérieur du laboratoire qui parle — et aucun de ses anciens collègues n'a démenti ses propos.
