Поки одні сперечаються, чи можна довіряти штучному інтелекту хоч щось серйозне, уряд Британії просто віддав йому ключі від власного коду — і результат його задовольнив. У межах двох пілотних програм ШІ-моделі прогнали через 548 репозиторіїв коду 18 державних відомств і знайшли 1352 вразливості, зокрема обхід авторизації, витоки даних і можливості віддаленого виконання коду.
Один із найпоказовіших прикладів — застарілий воркфлоу GitHub Actions, через який зовнішній користувач міг протягнути шкідливий код спеціально сформованим коментарем до pull request. Це саме той тип дірки, яку легко пропустити під час ручного аудиту, але яку модель, навчена шукати такі шаблони, знаходить за хвилини.
Найцікавіше — ціна питання. Місячний прогін ШІ по дев'яти держустановах коштував лише £13 000 у токенах. Традиційний penetration testing такого масштабу зазвичай обходиться у десятки чи сотні тисяч фунтів і триває тижнями. Команди застосовували різні підходи — одні вибудували ланцюжок із шести ШІ-агентів (тріаж, валідатор, аудитор, трасувальник, суддя, підсумок), інші просто додали три шари моделей над звичними сканерами типу Gitleaks, Trivy та Semgrep.
Міністр із питань ШІ Канішка Нараян оголосив про розширення програми у промові в Imperial College London. Усі критичні вразливості усунули, слідів експлуатації не знайшли за жодним пунктом. Тепер Government Cyber Unit, Національний центр кібербезпеки та AI Security Institute планують поширити метод на закритий код і більшу кількість відомств.
Є й друга, тривожніша лінія в заяві: Британія починає готувати протоколи на випадок, якщо автономні ШІ-агенти вийдуть з-під контролю людини. Формулювання поки обережні — «ризик втрати контролю», «протоколи реагування на інциденти» — але сам факт, що країна, яка щойно довірила ШІ шукати дірки в держкоді, паралельно продумує, як зупинити ШІ, якщо він почне діяти самостійно, багато про що говорить.
