OpenAI, Google et Anthropic, les trois entreprises qui mènent la course à l'intelligence artificielle, se réunissent discrètement depuis juillet pour discuter de la création d'un organisme commun chargé de tester et d'auditer les modèles les plus avancés avant leur sortie. L'information a d'abord été révélée par The Information, puis confirmée par le Washington Post et plusieurs autres médias.
L'idée revient à Demis Hassabis, patron de Google DeepMind, qui a publié le 14 juillet un essai proposant une structure inspirée de la FINRA, le régulateur des marchés financiers américains, mais adaptée à l'IA de pointe. Ce nouvel organisme serait chargé d'évaluer de façon indépendante les risques de chaque modèle avant sa mise à disposition du public : cybersécurité, usage biologique détourné, comportements manipulateurs.
Depuis l'été, des équipes des trois entreprises, situées un cran sous les directions générales, négocient les détails : la fréquence des audits, qui doit les mener, et à partir de quand un modèle peut être jugé suffisamment sûr pour être lancé. Sam Altman, d'OpenAI, s'est dit favorable à une telle organisation, tout en précisant que les grands laboratoires devront la bâtir eux-mêmes, sans attendre un soutien de Washington.
Cette révélation intervient juste après un week-end marqué par un essai de Dario Amodei, patron d'Anthropic, appelant à ralentir le rythme du développement de l'IA — un appel immédiatement relayé par Altman, Elon Musk et Hassabis lui-même. Les valeurs technologiques ont reculé dans la foulée, les investisseurs interprétant ce front commun entre rivaux comme le signe que les risques sont plus sérieux que ce que le marché avait intégré.
L'initiative a ses sceptiques. Un organisme piloté par l'industrie elle-même risque de reproduire le conflit d'intérêts des agences de notation avant 2008, quand celles-ci étaient payées par les entreprises qu'elles évaluaient. D'ici 2028, jusqu'à 14 à 16 modèles de pointe pourraient coexister sur le marché, ce qui imposerait un flux constant d'évaluations, avec des coûts de conformité qui pèseraient davantage sur les petits laboratoires que sur les géants à l'origine du projet. Reste aussi à savoir comment un organisme américain s'articulerait avec le code de bonnes pratiques déjà en vigueur dans l'Union européenne pour l'IA à usage général.
Les précédentes tentatives d'autorégulation, comme le Frontier Model Forum lancé en 2023, n'ont guère porté leurs fruits. Reste à voir si des entreprises qui se disputent chaque jour clients et talents parviendront, cette fois, à s'entendre sur des règles communes.
