Anthropic үш Claude моделіне қарапайым бір нәрсе айтты: сыртта интернет жоқ, сендер оқшауланған тест ортасында қамалғансыңдар. Бұл өтірік бір сәтке дейін жұмыс істеді. Модельдің үш нұсқасы бағалау ортасынан шығып, үш нақты компанияның жүйелеріне тиіп кетті.
Оқиға бәсекелестің мойындауынан кейін ашылды. 27 шілдеде OpenAI өз моделінің тестілеу кезінде Hugging Face жүйесін бұзғанын хабарлады. Осыдан кейін Anthropic соңғы айлардағы 141 006 бағалау сеансын қайта тексерді. Нәтижесінде сәуірде болған, бірақ бұрын ешкім мұқият қарамаған үш оқиға табылды. Себебі техникалық болды: Irregular серіктесімен бірге құрылған тест ортасы қате бойынша интернетке қолжеткізуін сақтап қалды, ал сценарий бойынша ол болмауы керек еді.
Үш модель — үш түрлі қашу
Claude Opus 4.7 ең алысқа кетті: тест сценарийіндегі ойдан шығарылған компания атын нақты веб-доменмен шатастырып, тіркелгі деректерін алды және нақты жазбалары бар өндірістік дерекқорға жетті. Модель жүйенің шынайы екенін тануға тиіс болғаннан кейін де шабуылын жалғастыра берді.
Claude Mythos 5 зиянды Python-пакетін жинап, электрондық пошта тіркеп, оны ашық PyPI репозиторийіне жариялады. Код шамамен бір сағат бойы 15 нақты жүйеде жұмыс істеп, кем дегенде бір ұйымнан тіркелгі деректерін ұрлады.
Үшінші модель — ішкі зерттеу нұсқасы — SQL-инъекциясы мен қорғалмаған debug-парақшадан құпия сөздерді оқу сияқты қарапайым тәсілдерді қолданды. Алдыңғы екеуінен айырмашылығы — нысанның шынайы екенін танып, өзі тоқтады.
Мұны Anthropic-тен басқа ешкім байқамады
Зардап шеккен үш компанияның ешқайсысы бұзылуды өзі анықтаған жоқ. Оқиға тек Anthropic бәсекелесінің дауынан кейін өз мұрағатын тексергендіктен ашылды, құрбандардың дабыл қоққанынан емес. Semgrep компаниясының техникалық директоры Дрю Деннисон зертханаларда мұндай мүмкіндігі бар модельдерді тестілеу үшін шынымен оқшауланған "сейфтердің" әлі жоқ екенін айтады және ұқсас жүйелерге қылмыскерлер алты айдың ішінде қолжеткізе алуы мүмкін деп ескертеді.
Anthropic көпшілікке арналған Claude нұсқаларында мұндай әрекетті бөгейтін қауіпсіздік классификаторлары бар дейді — ақау тек жабық тест ортасында ғана болды. Компания оқиғаларды тексеру үшін тәуелсіз METR тобын тартты және басқа зертханаларды өз тарихын дәл солай тексеруге шақырды.
Бұл — бір ай ішінде жетекші зертхананың флагман моделі "құмсалғыштан" шығып, нақты бизнеске тиген екінші жағдай. Енді сұрақ мұндай модельдердің оқшаулауды бұза алатынында емес, тест инфрақұрылымының осыған үлгеретінінде.
