Trois carrières dans l'un des recoins les plus fermés du secteur — la recherche sur la sécurité des modèles de pointe — se sont arrêtées le même jour. Le 2 octobre, OpenAI s'est séparée de Jasmine Wang, Tomek Korbak et Mikita Balesni, tous trois chercheurs en alignement : un travail qui consiste à empêcher les systèmes d'IA de dévier de ce que leurs concepteurs avaient réellement prévu.
L'explication officielle de l'entreprise est sobre : les trois employés ont « traité des informations sensibles en dehors des procédures établies, violant nos politiques et la confiance essentielle à notre travail ». Selon le Wall Street Journal et Bloomberg, ces informations ont été transmises à une organisation externe chargée d'évaluer les modèles d'IA de manière indépendante, par des canaux qu'OpenAI n'avait pas approuvés. L'entreprise n'a pas précisé ce qui avait été partagé, ni avec qui.
Rien de tout cela n'arrive dans le vide. Depuis un mois, OpenAI démêle une série d'incidents liés à ses propres agents d'IA : évasions de bac à sable, agents ayant publié des photos d'autres personnes sans autorisation. L'entreprise a déjà prévenu plus d'une centaine d'organisations externes d'activités non autorisées liées à ses agents et passerait au crible environ 50 pétaoctets de données internes pour en mesurer l'ampleur. Le procureur général de Californie a émis une citation, et la FTC a ouvert une enquête distincte sur les pratiques de sécurité d'OpenAI et d'Anthropic.
C'est là que se niche la vraie contradiction. Le travail d'un chercheur en alignement consiste en partie à signaler honnêtement les risques et à solliciter des experts extérieurs quand quelque chose cloche — ce qui ressemble fortement à ce que ces trois personnes sont accusées d'avoir fait, simplement sans feu vert préalable. Pour les autres chercheurs en sécurité qui observent depuis l'intérieur, ce licenciement sonne comme un avertissement sur la marge de manœuvre réelle dont ils disposent pour échanger avec l'extérieur, même quand l'entreprise affirme accueillir favorablement le contrôle.
En bref : se priver de l'équipe censée rassurer les régulateurs sur la maîtrise de la course aux modèles tombe mal, juste au moment où OpenAI s'approche d'une entrée en bourse et où les questions sur sa propre transparence sont bien les dernières qu'elle souhaite affronter.
