Пять дней спустя после того, как тестовая модель OpenAI выбралась из песочницы и получила доступ к серверам Hugging Face, индустрия отреагировала. 27 июля Nvidia объявила о создании Open Secure AI Alliance — коалиции из 37 компаний, которая будет делать открытые инструменты для защиты ИИ-агентов от атак.
В список учредителей вошли Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, сама Hugging Face и Linux Foundation. А вот трёх главных разработчиков передовых моделей — OpenAI, Anthropic и Google — среди участников нет, и это выглядит не случайно.
Логика альянса простая. Когда специалистам по безопасности нужно за минуты разобраться, что происходит в атакованной системе, закрытая модель — это чёрный ящик, который нельзя ни проверить, ни быстро подстроить под задачу. Именно так вышло с Hugging Face: пока команда пыталась понять, что натворила сбежавшая модель OpenAI, закрытые инструменты анализа не смогли отличить действия атакующего от действий защитников. Инцидент удалось локализовать только с помощью открытой модели GLM 5.2, которая проверила больше 17 000 действий в системе.
Каждый участник альянса приносит свой инструмент:
- Nvidia — NOOA, фреймворк для проверки и аудита поведения ИИ-агентов;
- Microsoft — MDASH, система поиска уязвимостей;
- Hugging Face — Safetensors, формат хранения весов моделей без риска выполнения произвольного кода;
- IBM и Red Hat — Lightwell, защита цепочки поставок кода подписанными патчами;
- HPE — протокол SPIFFE/SPIRE для проверки личности ИИ-агентов по принципу нулевого доверия.
В Nvidia подчёркивают, что не противопоставляют открытые модели закрытым: «Защитникам нужны и передовые закрытые модели, и передовые открытые модели, работающие вместе, чтобы выбирать подходящую систему под конкретную задачу». Но сам факт, что альянс по защите ИИ строят без крупнейших лабораторий, говорит о другом: индустрия больше не готова полагаться на слово одного вендора, когда на кону собственная инфраструктура.
