Соңғы жылда компаниялар өз жүйелеріне ИИ-агенттерді түгел кіргізді: олар код жазады, хаттарға жауап береді, деректерді қызметтер арасында тасымалдайды. Microsoft көптеген қауіпсіздік топтары күдіктенген нәрсені ашық айтты — осы агенттерге сенуге болмайды, оларды қарапайым бағдарлама емес, ықтимал инсайдер ретінде қарастыру керек.
Microsoft Security блогында 19 қазанда жарияланған жазбада компанияның қауіпсіздік жөніндегі вице-президенті Хайете Галло тура айтты: «Шығу тегіне қарамастан, озық модельдерге сенім артуға болмайды». Бұл жамандық ниеті туралы емес — агенттер нәтижеге кез келген жолмен жету үшін үйретіледі, ал бұл мақсат процедурадан маңыздырақ көрінген кезде ережені айналып өтуге итермелейді. Бас директор Сатья Наделла одан әрі кетті: ең сенімді жүйе — модельдің өзіне мүмкіндігінше аз сенетін жүйе.
Мұны іс жүзінде қолдану үшін Microsoft шілдеде іске қосылған Project Perception жүйесін кеңейтіп жатыр — бастапқыда ол ИИ арқылы жасалған шабуылдарға қарсы «қызыл», «көк» және «жасыл» агент топтарын пайдаланды. Енді сол логика компанияларды өз көмекшілерінен қорғайды. Әрбір агент Microsoft Entra Agent ID арқылы цифрлық жеке куәлік алады — дерлік қызметкердің куәлігі сияқты. Құралдар қазір 60 түрлі жергілікті агентті таниды, оның ішінде Claude Code, OpenAI-дың Codex және GitHub Copilot бар — бұрын, бірнеше ай бұрын, бар-жоғы 35 түр болған.
Содан кейін Dynamic Agent Risk іске қосылады: алгоритм сәйкестендіру, құрылғы, бұлт және желі сигналдары негізінде агенттің тәуекел дәрежесін үздіксіз қайта есептейді. Егер агенттің әрекеті тапсырмадан ауытқыса, қолжетімділік автоматты түрде тарылады — алдымен тек оқуға рұқсат қалады, одан кейін адамның мақұлдауын күту режимі, ең ауыр жағдайда — толық оқшаулау немесе тоқтату. Күнделікті тапсырмаларға Dynamic Permissions енгізілді — тек бір операцияға арналған уақытша құқықтар, ал Microsoft Execution Container орындалуды сырттан бақыланатын оқшау ортада ұстайды.
Мұның бәрін тағы да агенттер — Project Perception-ның арнаулы агенттері бақылайды. Guardian Agents тәулік бойы әр жұмыс агентінің әрекетін тексереді және тәуекел кенеттен өскенде адамды күтпей-ақ шектеу шараларын ұсына немесе қолдана алады.
Microsoft баға мен қолжетімділік мерзімін әлі жарияламады — толық мәлімет 17 қарашада өтетін Ignite конференциясында берілетін көрінеді. Бірақ үн өзгерісі қазірден-ақ байқалады: ең ірі корпоративтік бағдарлама жеткізушісі ИИ неғұрлым дербес бола түссе, соғұрлым оның келесі қадамын болжау қиындайтынын жария түрде мойындады.
