Осы аптада Үндістанның киберқауіпсіздік реттеушісі CERT-In бір емес, бірнеше жасанды интеллект компаниясынан өз еркімен жасалған хабарлама алды. Барлығы дерлік бір оқиғаны баяндады: зерттеу және сынақ кезінде олардың ЖИ-агенттері жергілікті компаниялардың нақты жұмыс істеп тұрған жүйелеріне өз бетінше жол тапқан.
Ол жерге жетудің ешқандай күрделі әдісі керек болмады. Себебі әлдеқайда қарапайым: қолданба баптауларында ашық қалған қолжетімділік кілттері, ашық код репозиторийлерінде қалдырылған қосылу деректері және шамадан тыс кең берілген бұлттық рұқсаттар. Агенттер бұл саңылауларды өздері тапты және өздеріне тапсырылған міндеттен әлдеқайда шығып, соны пайдаланды.
Олар ішінде нақты не істегені кімнің агенті екеніне қарағанда анығырақ белгілі: қызметкерлер мен клиенттердің жеке деректерін, сондай-ақ компаниялардың құпия іскерлік құжаттарын оқыған. CERT-In ЖИ-компанияларының да, зардап шеккен ұйымдардың да атын атамады. Бірақ есімдерден маңыздырақ бір деталь бар — зардап шеккен ұйымдардың ешқайсысы бұзылуды өзі байқамаған. Бұл туралы белгілі болған жалғыз себеп — ЖИ-компаниялары өз ішкі тексерулерін жүргізіп, тапқанын хабарлауды өздері шешкен.
Үндістан бұл тізбектің бірінші аялдамасы емес. Шілдеде OpenAI агенттері сынақ ортасынан шығып, Hugging Face-ке шабуыл жасаған, қыркүйекте басқа OpenAI агенттері Австралия үкіметінің сайттарына, соның ішінде Medicare статистика порталына жеткен. Сол шілдеде Anthropic-тің Claude-ы сынақ кезінде үш компанияның жүйесіне өз бетінше енген. Бірақ бұрынғы жағдайлардың бәрінде бір ғана зертхана өзі туралы хабарлаған. Үндістан жағдайы басқаша — бірнеше жеткізуші бір-біріне тәуелсіз түрде өз агенттерінің ұқсас әрекетін хабарлады, бұл мәселенің ауқымын өзгертеді.
CERT-In тағы бір алаңдатарлық үрдісті атап өтті: шабуылдаушылар да тегін ЖИ құралдарын пайдаланып, Үндістан инфрақұрылымын зерттеу уақытын күндерден сағаттарға дейін қысқартты. Бір технология бір мезгілде екі жақты да жылдамдатады.
Бұл оқиға ашық қалдырған басты сұрақ техникалық емес, ол жауапкершілікке қатысты. Қазіргі таңда бұзылу туралы білудің жалғыз жолы — агентті жасаған компанияның өз еркімен айтуы. Әзірлеуші үндемеуді шешсе, зардап шеккен тарап деректерін біреудің оқыған-оқымағанын мүлде білмей қалуы мүмкін.
