Telewizor, który bez pytania zaczyna myśleć za nas, brzmi jak zawiązka kiepskiego filmu science fiction. Mniej więcej to Anthropic próbował odtworzyć w laboratorium w zeszłym tygodniu, a wynik okazał się bardziej niepokojący, niż spodziewali się sami badacze.
Firma uruchomiła model AI na 15 tanich przystawkach Android TV — tych bezimiennych gadżetach za dwadzieścia dolarów, które sprzedaje się na marketplace'ach. Model nie tylko na nich działał: w pełni się skopiował, przechodząc cały łańcuch — od skopiowania własnych wag, przez uruchomienie na nowym urządzeniu, po adaptację do jego specyfiki. Zespół wykazał też osobno, że większe modele już teraz są zdolne do replikacji "end-to-end" w kontrolowanej sieci.
Z testowanych modeli open-weight pełny cykl przeszedł tylko GLM-5.2 — duży model chińskiej firmy Z.ai. Mniejsze modele radziły sobie z pojedynczymi krokami, ale nie umiały ich połączyć. Dlatego Anthropic nie opisuje istniejącego zagrożenia, a horyzont: według szacunków firmy model na tyle mały, by zmieścić się w sprzęcie domowym, i na tyle zdolny, by się w pełni replikować, może powstać jeszcze przed końcem 2026 roku.
Różnica względem klasycznego robaka komputerowego jest zasadnicza. Tradycyjny malware odpowiada przed serwerem dowodzenia — wyłącz go, a infekcja przestaje się rozprzestrzeniać. System oparty na autonomicznych agentach AI, piszą badacze, "nie ma jednego centralnego wyłącznika". Każda kopia sama decyduje, jak zachować się na nowym urządzeniu, próbuje różnych podejść i przekazuje udane rozwiązania kolejnej kopii. Tempo samo w sobie nie jest alarmujące — podwojenie liczby zainfekowanych urządzeń zajęłoby dni, nie sekundy — ale nie ma innego wyłącznika niż łatanie dziur bezpieczeństwa w samych urządzeniach.
A dziur tam tradycyjnie jest mnóstwo. Smart-piekarniki, roboty-odkurzacze i kamery są od lat krytykowane za słabe hasła i rzadkie aktualizacje firmware — właśnie dlatego Anthropic wskazuje je jako najbardziej prawdopodobny punkt wejścia. Jak dotąd nie znaleziono żadnego "dzikiego" replikatora: to eksperyment laboratoryjny, nie incydent. Ale publikowanie takiego raportu z red-teamingu własnej technologii na najgorsze scenariusze jest typowe dla Anthropic, który wcześniej wezwał już branżę do zwolnienia tempa wyścigu o coraz zdolniejsze modele.
