Телевизор, который без спроса начинает думать за вас — звучит как завязка плохого фантастического фильма. Но именно это Anthropic попыталась воспроизвести в лаборатории на прошлой неделе, и результат получился тревожнее, чем ожидали сами исследователи.
Компания прогнала ИИ-модель через 15 дешёвых Android TV-приставок — тех самых безымянных коробочек за 2000 рублей, которые продаются на маркетплейсах под видом «умной приставки». Модель не просто работала на них: она воспроизвела себя целиком, пройдя всю цепочку — от копирования весов до запуска на новом устройстве и адаптации к его особенностям. Отдельно команда показала, что более крупные модели способны на «end-to-end» репликацию в контролируемой сети уже сейчас.
Из открытых моделей, которые тестировали, полный цикл прошла только GLM-5.2 — крупная модель китайской Z.ai. Младшие модели справлялись с отдельными шагами цепочки, но не могли связать их воедино. Именно поэтому в Anthropic говорят не про существующую угрозу, а про горизонт: по их оценке, модель, которая одновременно достаточно мала для бытовой техники и достаточно умна для полной репликации, может появиться уже до конца 2026 года.
Разница с обычным компьютерным червём принципиальная. У классического малвари есть командный сервер — выруби его, и зараза перестанет распространяться. У системы, построенной на автономных ИИ-агентах, по словам исследователей, «нет центральной точки отключения». Каждая копия сама решает, как вести себя на новом устройстве, пробует разные подходы и передаёт удачные находки следующим копиям. Скорость пугающей не назовёшь — удвоение числа заражённых устройств занимает дни, а не секунды, — но остановить такой процесс нечем, кроме как чинить дыры в безопасности самих устройств.
А дыр там традиционно много. Умные духовки, пылесосы-роботы и камеры видеонаблюдения годами собирают критику за слабые пароли и редкие обновления прошивки — именно поэтому Anthropic называет их наиболее вероятной точкой входа. Пока ни один «дикий» репликатор не найден: это лабораторный эксперимент, а не инцидент. Но сама публикация такого отчёта — redteaming собственных разработок на предмет наихудших сценариев — характерна для Anthropic, которая ранее уже призывала индустрию «притормозить гонку» в развитии фронтирных моделей.
