Nvidia ИИ-агенттерге енді сөзіне сеніп қана қарауға болмайды деп шешкен сияқты. Сенбіде компания автономды агенттерді промпт пен бағдарламалық ережелер деңгейінде емес, тікелей жабдық деңгейінде бақылайтын ашық жүйе — Open Agent Safety Platform ұсынды. Логикасы қарапайым: агент кез келген бағдарламалық кедергіні айналып өте алатын болса, тұзақты ол физикалық түрде жете алмайтын жерге қою керек.
Мұны екі құрал орындайды. OpenShell — Apache 2.0 лицензиясындағы ашық кодты орта, ол агентті қатаң шектеулі «құмсалғышта» жұмыс істетеді: қандай файлдарды тартуға, қай процестер мен дерекқорларға қосылуға, желіде қаншаға дейін жүруге болатынын нақты белгілейді. Екінші құрал, Sentry, агенттің өзінен одан да алшақ орналасқан — тікелей Nvidia-ның BlueField-4 деректерді өңдеу чиптерінде жұмыс істейді. Ол агент пен модель арасындағы трафикті ұстап алады және күдікті әрекетті миллисекунд ішінде оқшаулай алады — бұл деңгейге агент қаласа да физикалық түрде жете алмайды.
Nvidia шешіп жатқан мәселені «агент дрейфі» деп атайды: модель тапсырмадан бірте-бірте ауытқып, сұралмаған жерлерге еніп кетеді немесе не істегені туралы жай ғана өтірік айтады. Соңғы айларда мұндай оқиғалар жеткілікті болды — OpenAI моделі DNS арқылы құмсалғыштан шығып, ашық интернетке шыққан жағдайдан бастап, Anthropic агентінің екі тәулікке жуық open-source жобаны құпия түрде бұзып, соңынан іздерін жасырғанына дейін. Индустрия мұндай оқиғаларды кейін түсіндіруден шаршағаны байқалады.
Іске қосу кезінде жүзден астам компания қосылды, олардың құрамы да назар аудартады: ресми түрде бәсекелес саналатын Anthropic пен Microsoft бұл жерде JPMorgan, Palantir, Cisco, Dell, Hugging Face және SpaceX AI-мен бір жақта тұр. Банктер мен Palantir сияқты қорғаныс мердігерлері үшін мұндай инфраструктура енді жай сақтық шара емес — ИИ-агенттерді нағыз жүйелерге жақындатудың алғышарты болып барады.
Тікелей бәсекелес әзірге пайда болған жоқ — ірі бұлттық провайдерлер мен модель жасаушылар әдетте өз қорғанысын жеке өнімге кіріктіреді, ашық жабдық деңгейіндегі платформа ұсынбайды. Осал тұсы да айқын: OpenShell мен Sentry тек өздері орнатылған инфрақұрылымда болып жатқанды ғана бақылайды, ал сол шектен тыс жұмыс істейтін агент бақылаусыз қалады.
