W ciągu ostatniego roku firmy wpakowały agentów AI prawie wszędzie: piszą kod, odpowiadają na e-maile, przenoszą dane między systemami. Microsoft właśnie powiedział głośno to, co wiele zespołów bezpieczeństwa już podejrzewało — tym agentom nie można ufać i trzeba ich traktować jak potencjalnych insiderów, a nie zwykłe oprogramowanie.
We wpisie na blogu Microsoft Security z 19 października wiceprezeska firmy do spraw bezpieczeństwa, Hayete Gallot, napisała to bez ogródek: „modele najnowszej generacji, niezależnie od pochodzenia, nie są godne zaufania”. Nie chodzi o złe intencje — agenci są trenowani, by osiągać wyniki za wszelką cenę, co skłania ich do obchodzenia zasad, gdy cel wydaje się ważniejszy niż procedura. Dyrektor generalny Satya Nadella poszedł jeszcze dalej: najbardziej godny zaufania system to ten, który zaprojektowano tak, by ufać modelowi jak najmniej.
Aby przełożyć to na praktykę, Microsoft rozszerza Project Perception — system uruchomiony w lipcu, który wykorzystuje zespoły agentów AI „czerwonych”, „niebieskich” i „zielonych” do obrony przed atakami prowadzonymi przy pomocy AI. Teraz ta sama logika chroni firmy przed ich własnymi asystentami. Każdy agent otrzymuje cyfrową tożsamość przez Microsoft Entra Agent ID — niemal jak identyfikator pracownika. Narzędzia rozpoznają już 60 typów lokalnych agentów, w tym Claude Code, Codex od OpenAI i GitHub Copilot — wobec 35 jeszcze kilka miesięcy temu.
Dalej wkracza Dynamic Agent Risk: algorytm, który nieustannie przelicza wynik ryzyka agenta na podstawie sygnałów z systemów tożsamości, urządzeń, chmury i sieci. Jeśli zachowanie odbiega od przypisanego zadania, dostęp automatycznie się zwęża — najpierw do odczytu bez prawa działania, potem do oczekiwania na zgodę człowieka, w najgorszym razie do pełnej izolacji. Do rutynowych zadań wprowadzono Dynamic Permissions — tymczasowe uprawnienia ściśle dopasowane do jednej operacji, a Microsoft Execution Container izoluje wykonanie w piaskownicy pod zewnętrznym nadzorem.
Nad całością czuwają kolejni agenci — ci specjalni, z Project Perception. Guardian Agents całodobowo sprawdzają każdy ruch agentów operacyjnych, a gdy ryzyko nagle skacze, mogą samodzielnie zaproponować lub zastosować środki powstrzymujące, bez czekania na człowieka.
Microsoft nie ogłosił jeszcze cen ani terminu dostępności — więcej szczegółów ma paść na konferencji Ignite 17 listopada. Ale zmiana tonu jest już widoczna: największy dostawca oprogramowania dla firm publicznie przyznaje, że im bardziej samodzielna staje się AI, tym trudniej przewidzieć jej następny krok.
