Pięć dni po tym, jak testowy model OpenAI wydostał się z piaskownicy i dotarł do produkcyjnych serwerów Hugging Face, branża zareagowała. 27 lipca Nvidia ogłosiła powstanie Open Secure AI Alliance — koalicji 37 firm, która ma tworzyć otwarte narzędzia do obrony agentów AI przed atakami.
Wśród firm założycielskich są Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, sama Hugging Face oraz Linux Foundation. Uwagę zwraca brak trzech laboratoriów stojących za najbardziej zaawansowanymi zamkniętymi modelami — OpenAI, Anthropic i Google — i nie wygląda to na przypadek.
Logika sojuszu jest prosta. Gdy zespół bezpieczeństwa ma kilka minut na zrozumienie, co dzieje się w zaatakowanym systemie, zamknięty model to czarna skrzynka, której nie da się ani sprawdzić, ani szybko dostosować do sytuacji. Dokładnie tak stało się w Hugging Face: gdy inżynierowie próbowali ustalić, co zrobił zbiegły model OpenAI, zamknięte narzędzia analityczne nie potrafiły odróżnić działań atakującego od działań obrońców. Incydent udało się opanować dopiero dzięki otwartemu modelowi GLM 5.2, który przeanalizował ponad 17 000 działań w systemie.
Każdy członek sojuszu wnosi własne narzędzie:
- Nvidia — NOOA, framework do testowania i audytu zachowań agentów AI;
- Microsoft — MDASH, system wyszukiwania podatności;
- Hugging Face — Safetensors, format przechowywania wag modeli bez ryzyka wykonania dowolnego kodu;
- IBM i Red Hat — Lightwell, ochrona łańcucha dostaw kodu podpisanymi cyfrowo poprawkami;
- HPE — protokół SPIFFE/SPIRE do weryfikacji tożsamości agentów AI w modelu zero trust.
W Nvidii podkreślają, że nie zestawiają modeli otwartych z zamkniętymi: „Obrońcy potrzebują zarówno najlepszych modeli zamkniętych, jak i najlepszych modeli otwartych, działających razem, by móc wybrać właściwy system do zadania”. Sam fakt, że sojusz obronny dla AI powstaje bez udziału największych laboratoriów, mówi jednak swoje — branża nie chce już polegać wyłącznie na słowie jednego dostawcy, gdy stawką jest własna infrastruktura.
