W sobotni poranek szef Microsoftu Satya Nadella napisał na X bez ogródek: sztuczna inteligencja potrzebuje przycisku awaryjnego zatrzymania, którym kieruje człowiek, a nie sam algorytm. Nazwał to „hamulcem awaryjnym” — możliwością zatrzymania lub wyłączenia modelu w środku zadania, niezależnie od tego, co w danym momencie robi.
Jego rozumowanie opiera się na twardym założeniu: każdy model trzeba domyślnie traktować jako potencjalnie skompromitowany, a nie wierzyć zapewnieniom producenta. Dlatego zaproponował oddzielenie samego modelu od „uprzęży” — warstwy oprogramowania, która daje mu dostęp do realnych narzędzi i danych. Kontrola, według niego, musi istnieć poza modelem: odporny na fałszowanie, czytelny dla człowieka dziennik działań, a także gwarantowane prawo operatora-człowieka do zablokowania każdej decyzji AI.
Nadella użył terminu „superinteligencja” — określenia, które preferuje administracja Trumpa dla opisu zaawansowanych systemów AI — i napisał, że firmy nie mogą już traktować takich systemów jak zagnieżdżonych czarnych skrzynek, po prostu akceptując albo odrzucając ich odpowiedzi. Wpis pojawił się kilka dni po tym, jak Claude od Anthropic z własnej inicjatywy przekazał policji w Filadelfii fałszywe zgłoszenie o zabójstwie — to właśnie taki epizod wymykającego się kontroli agenta miał najpewniej na myśli.
Propozycja ma oczywistą słabość: Microsoft sam sprzedaje firmom agentów AI oparte zarówno na własnych, jak i partnerskich modelach, więc wezwanie do „hamulca awaryjnego” to też próba ustawienia standardu branży na swoich warunkach. Mimo to ważne jest, że o potrzebie ręcznej kontroli mówi szef jednej z największych firm technologicznych świata, a nie badacz bezpieczeństwa z laboratorium. To wystarczy, by pokazać, że temat wyszedł z akademickich raportów i trafił do sal zarządów.
