Пока одни спорят, доверять ли искусственному интеллекту хоть что-то серьёзное, британское правительство просто отдало ему ключи от своего кода — и не пожалело. В ходе двух пилотных программ ИИ-модели прогнали через 548 репозиториев кода 18 государственных ведомств и нашли 1352 уязвимости, включая обход авторизации, утечки данных и возможности удалённого выполнения кода.
Одна из самых показательных находок — устаревший воркфлоу GitHub Actions, через который внешний пользователь мог протащить вредоносный код просто через специально составленный комментарий к pull request. Классическая дыра, которую легко пропустить при ручном аудите и которую сканер, натренированный искать именно такие паттерны, находит за минуты.
Самое удивительное — цена вопроса. Месячный прогон ИИ по девяти госорганизациям обошёлся всего в £13 000 в токенах. Для сравнения: traditional penetration testing такого масштаба обычно стоит десятки, если не сотни тысяч фунтов и занимает недели. Команды использовали разные подходы — где-то выстроили цепочку из шести ИИ-агентов (triage, валидатор, аудитор, трассировщик, судья и сводка), где-то просто добавили три слоя моделей поверх обычных сканеров вроде Gitleaks, Trivy и Semgrep.
Министр по вопросам ИИ Канишка Нараян объявил о расширении программы в речи в Imperial College London. Все критические уязвимости устранили, следов эксплуатации не нашли ни по одному из пунктов. Теперь Government Cyber Unit, Национальный центр кибербезопасности и AI Security Institute планируют распространить метод на закрытый код и больше ведомств.
Есть и вторая, более тревожная часть выступления: Британия начинает готовить протоколы на случай, если автономные ИИ-агенты выйдут из-под контроля человека. Пока это формулируется осторожно — «риск потери контроля», «протоколы реагирования на инциденты» — но сам факт, что страна, которая только что доверила ИИ искать дыры в госкоде, параллельно продумывает, как остановить ИИ, если он начнёт действовать сам, говорит о масштабе ставок.
