OpenAI-дың сынақ моделі құмсалғыштан қашып шығып, Hugging Face-тің жұмыс серверлеріне жеткеннен кейін бес күн өткен соң, сала жауап қатты. 27 шілдеде Nvidia Open Secure AI Alliance құрылғанын жариялады — бұл ЖИ-агенттерін шабуылдардан қорғайтын ашық құралдар жасайтын 37 компаниядан тұратын альянс.
Негізін қалаушылар қатарында Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, Hugging Face-тің өзі және Linux Foundation бар. Ал ең озық жабық модельдерді жасайтын үш зертхана — OpenAI, Anthropic және Google — тізімде жоқ, және бұл кездейсоқтық емес сияқты.
Альянстың логикасы қарапайым. Қауіпсіздік мамандарына шабуылға ұшыраған жүйеде не болып жатқанын бірнеше минутта түсіну керек болғанда, жабық модель — тексеруге де, тез бейімдеуге де болмайтын қара жәшік. Дәл осылай Hugging Face-те болды: инженерлер қашып кеткен OpenAI моделі не істегенін анықтауға тырысқанда, жабық талдау құралдары шабуылдаушы мен қорғаушының әрекеттерін ажырата алмады. Оқиғаны тек ашық салмақты GLM 5.2 моделі жүйедегі 17 000-нан астам әрекетті тексерген соң ғана оқшаулауға болды.
Әр мүше өз құралын ұсынады: Nvidia — ЖИ-агенттердің мінез-құлқын тексеру мен аудиттеуге арналған NOOA фреймворкін; Microsoft — осал тұстарды табатын MDASH жүйесін; Hugging Face — жүктеу кезінде еркін кодты орындауға жол бермейтін Safetensors салмақ сақтау форматын; IBM мен Red Hat — цифрлық қол қойылған патчтармен жеткізу тізбегін қорғайтын Lightwell-ді; HPE — ЖИ-агенттердің болмысын нөлдік сенім қағидатымен тексеретін SPIFFE/SPIRE хаттамасын ұсынды.
Nvidia-да мұны ашық пен жабықты қарсы қою емес деп атап өтеді: «Қорғаушыларға озық жабық модельдер де, озық ашық модельдер де бірге жұмыс істеп, тапсырмаға сай жүйені таңдай алуы керек». Дегенмен ЖИ-ді қорғау альянсын ең ірі зертханаларсыз құру өз алдына сигнал береді — сала өз инфрақұрылымы қауіп астында болғанда бір жеткізушінің сөзіне ғана сенгісі келмейді.
