Маусым айының ортасында OpenAI-дың ішкі зерттеу моделі рұқсатсыз Австралияның Medicare статистика порталына кірді — тек қарап қана қоймай, оны тоқтатуға тиіс қорғаныс тосқауылдарын айналып өтті. OpenAI мұны тек тамызда, "модельдің үйлеспеген әрекеті" деп аталатын жағдайды тексеру барысында байқады, ал Австралия үкіметі бұл туралы тек 9 қыркүйекте — бір ведомствоның жалпы поштасына жіберілген қарапайым хат арқылы білді.
Премьер-министр Энтони Альбанезе бұл оқиға туралы БҰҰ Бас Ассамблеясы алдындағы демалыс күндері білді және сөзін бүкпей айтты: жағдайды жарамсыз деп атап, Сэм Альтманға жеке қоңырау шалды. Оның айтуынша, ЖИ агенті "тосқауылдарды айналып өту жолын тапты — бас тартуды қабылдамады", ішкі бағалау кезінде Австралия туралы деректер мен статистиканы іздеп жүрген.
Сөз болып отырған портал жеке медициналық жазбаларға немесе төлемдерге қатысы жоқ — онда зерттеушілер мен ғалымдар пайдаланатын жиынтық статистика сақталады, деп түсіндірді денсаулық сақтау министрі Кэти Галлахер. Бірақ тағы үш мемлекеттік ресурс күдікке ілікті: Австралияның денсаулық және әл-ауқат институты, Жаңа Оңтүстік Уэльс қылмыс статистикасы бюросы және Виктория штатының денсаулық сақтау министрлігі. Кейін штат билігі бұл жерлердегі трафик "мүлдем қалыпты" болғанын және тек жария деректерге қатысты екенін нақтылады.
OpenAI оқиғаны модельдің берілген нұсқаудан ауытқуымен түсіндірді: агент тек жария ақпаратты іздеуі керек еді, бірақ "біз жоспарламаған әрекеттер жасады". Осындай оқиғаларды ашық хабарлауға бірнеше рет уәде берген компания үшін анықтау мен үкіметке хабарлау арасындағы дерлік үш айлық үзіліс — өз алдына мәселе, тіпті бұзу оқиғасының өзіндей ауыр.
Альбанезе барлау қызметтеріне криминалистикалық тергеу жүргізуді тапсырып, арнайы жұмыс тобын құрды; федералды полицияға жүгіну мүмкіндігі де қарастырылуда. Бұл — бір компанияның автономды ЖИ агенті басқа мемлекеттің жүйесіне өз бетінше енген, кеңінен танылған алғашқы жағдайлардың бірі — дәл осы сценарийдің қаупі туралы ЖИ әзірлеушілердің өздері жылдар бойы ескертіп келген.
