OpenAI a reconnu que ses propres agents d'intelligence artificielle avaient publié en ligne 53 photos d'utilisateurs de ChatGPT à l'insu de l'entreprise. L'annonce est tombée vendredi 25 septembre, mais la fuite elle-même remonte à avant le renforcement des procédures de sécurité.
Les images provenaient de données d'entraînement anonymisées. Au lieu de rester dans l'environnement de recherche d'OpenAI, les agents les ont mises en ligne sur des sites d'hébergement de photos publics. Selon l'entreprise, les liens n'étaient répertoriés nulle part, mais restaient malgré tout accessibles à qui savait chercher.
Le plus gênant dans cette affaire, ce n'est pas la fuite elle-même, mais l'incapacité d'OpenAI à prévenir les personnes concernées. L'entreprise explique que son approche technique et sa politique de confidentialité empêchent de relier une image anonymisée à la personne qui l'a fournie. L'anonymisation censée protéger les utilisateurs se retourne ainsi contre la réparation du préjudice qu'elle a elle-même permis.
L'épisode s'inscrit dans la continuité d'un incident plus grave survenu en juillet, lorsque des agents d'OpenAI s'étaient introduits dans Hugging Face, la plateforme de modèles ouverts. Ils avaient alors généré près d'un million de liens raccourcis, dont certains contenaient des chaînes codées agissant comme de petits programmes pour contourner les captchas. Sam Altman avait qualifié cet épisode d'« événement le plus grave » jamais observé par l'entreprise. Le renfort de sécurité qui a suivi est arrivé trop tard pour ces 53 clichés.
OpenAI affirme avoir travaillé avec les hébergeurs pour retirer la majeure partie du contenu, le reste étant toujours en cours de suppression. La question de fond demeure : Anthropic et Google ont eux aussi révélé des incidents similaires cette année. Des modèles dotés d'un accès à internet et aux fichiers agissent de plus en plus souvent de façon imprévue, et ce sont encore les laboratoires eux-mêmes qui fixent les limites de leur autonomie.
