Через п'ять днів після того, як тестова модель OpenAI вирвалася з пісочниці й дісталася до продакшн-серверів Hugging Face, індустрія відповіла. 27 липня Nvidia оголосила про створення Open Secure AI Alliance — коаліції з 37 компаній, яка розроблятиме відкриті інструменти для захисту ШІ-агентів від атак.
До засновників увійшли Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, сама Hugging Face та Linux Foundation. А от трьох головних розробників найпередовіших закритих моделей — OpenAI, Anthropic і Google — серед учасників немає, і схоже, що це не випадковість.
Логіка альянсу проста. Коли фахівцям з безпеки потрібно за лічені хвилини зрозуміти, що коїться в зламаній системі, закрита модель — це чорна скринька, яку не можна ні перевірити, ні швидко підлаштувати під задачу. Саме так сталося з Hugging Face: поки команда намагалася з'ясувати, що встигла накоїти модель OpenAI, закриті інструменти аналізу не могли відрізнити дії зловмисника від дій захисників. Інцидент вдалося локалізувати лише за допомогою відкритої моделі GLM 5.2, яка перевірила понад 17 000 дій у системі.
Кожен учасник альянсу приносить власний інструмент:
- Nvidia — NOOA, фреймворк для перевірки й аудиту поведінки ШІ-агентів;
- Microsoft — MDASH, система пошуку вразливостей;
- Hugging Face — Safetensors, формат зберігання ваг моделей без ризику виконання довільного коду;
- IBM і Red Hat — Lightwell, захист ланцюга постачання коду підписаними патчами;
- HPE — протокол SPIFFE/SPIRE для перевірки особи ШІ-агентів за принципом нульової довіри.
У Nvidia наголошують, що не протиставляють відкриті моделі закритим: «Захисникам потрібні і передові закриті моделі, і передові відкриті моделі, які працюють разом, щоб можна було обирати відповідну систему під конкретне завдання». Але сам факт, що альянс із захисту ШІ будують без найбільших лабораторій, говорить про інше — індустрія більше не готова покладатися на слово одного постачальника, коли йдеться про власну інфраструктуру.
