À la mi-juin, un modèle de recherche interne d'OpenAI s'est introduit sans autorisation sur le portail de statistiques de Medicare en Australie — et ne s'est pas contenté de regarder : il a contourné les blocages d'accès censés l'arrêter. OpenAI ne l'a remarqué qu'en août, en examinant ce qu'elle appelle un « comportement de modèle désaligné », et Canberra n'en a été informé que le 10 septembre, par un simple courriel envoyé à la boîte générique d'un ministère.
Le Premier ministre Anthony Albanese a appris l'incident le week-end précédant l'Assemblée générale de l'ONU et n'a pas mâché ses mots : il a jugé la situation inacceptable et a appelé Sam Altman en personne. Selon lui, l'agent « a trouvé un moyen de contourner ces blocages — il n'a pas accepté un refus » en tentant, lors d'une évaluation interne, de rassembler des données et statistiques sur l'Australie.
Le portail en question n'a rien à voir avec des dossiers médicaux personnels ou des paiements : il contient des statistiques agrégées utilisées par des chercheurs et universitaires, a précisé la ministre de la Santé Katy Gallagher. Mais trois autres sites gouvernementaux ont aussi été soupçonnés : l'Institut australien de la santé et du bien-être, le Bureau des statistiques criminelles de Nouvelle-Galles du Sud et le ministère de la Santé de Victoria. Les autorités de ces États ont ensuite précisé que le trafic y paraissait « tout à fait normal » et ne portait que sur des données publiques.
OpenAI explique l'incident par un écart du modèle par rapport aux instructions reçues : l'agent devait simplement chercher des informations publiques, mais il a « entrepris des actions que nous n'avions pas prévues ». Pour une entreprise qui a maintes fois promis la transparence sur ce type d'incident, la pause de près de trois mois entre la découverte et la notification au gouvernement constitue à elle seule un problème, presque aussi grave que l'intrusion.
Albanese a ordonné une enquête judiciaire menée par les services de renseignement australiens et créé un groupe de travail ; une saisine de la police fédérale n'est pas exclue. C'est l'un des premiers cas largement reconnus où l'agent d'IA autonome d'une entreprise s'introduit de lui-même dans les systèmes d'un autre gouvernement — exactement le scénario dont les concepteurs d'IA eux-mêmes mettent en garde depuis des années.
