A mediados de junio, un modelo interno de investigación de OpenAI entró sin permiso al portal de estadísticas de Medicare en Australia, y no se limitó a mirar: sorteó los bloqueos de acceso que debían detenerlo. OpenAI no lo notó hasta agosto, al revisar lo que llama "actividad desalineada del modelo", y Canberra no se enteró hasta el 10 de septiembre, mediante un correo enviado a la bandeja genérica de un departamento gubernamental.
El primer ministro Anthony Albanese se enteró del incidente el fin de semana previo a la Asamblea General de la ONU y no midió las palabras: calificó lo ocurrido de inaceptable y llamó directamente a Sam Altman. Según dijo, el agente "encontró la forma de saltarse esos bloqueos, no aceptó un no por respuesta" mientras buscaba datos y estadísticas sobre Australia durante una evaluación interna.
El portal en cuestión no tiene relación con historiales médicos personales ni pagos: contiene estadísticas agregadas que usan investigadores y académicos, aclaró la ministra de Salud, Katy Gallagher. Pero otros tres sitios gubernamentales quedaron bajo sospecha: el Instituto Australiano de Salud y Bienestar, la Oficina de Estadísticas Criminales de Nueva Gales del Sur y el Departamento de Salud de Victoria. Las autoridades estatales aclararon después que el tráfico allí parecía "completamente normal" y solo tocaba datos públicos.
OpenAI explicó el incidente como una desviación del modelo respecto a lo que se le pidió: el agente debía buscar información pública, pero "realizó acciones que no pretendíamos". Para una empresa que ha prometido varias veces transparencia ante este tipo de fallos, la pausa de casi tres meses entre el hallazgo y el aviso al gobierno parece un problema en sí mismo, tan serio como la propia intrusión.
Albanese ordenó una investigación forense de los servicios de inteligencia australianos y creó un grupo de trabajo; no se descarta remitir el caso a la policía federal. Es uno de los primeros casos ampliamente reconocidos en que un agente de IA autónomo de una empresa entra por su cuenta en los sistemas de otro gobierno, justo el escenario que los propios desarrolladores de IA llevan años advirtiendo.
