Podczas gdy wielu wciąż spiera się, czy sztucznej inteligencji można powierzyć coś naprawdę istotnego, brytyjski rząd po prostu oddał jej klucze do własnego kodu — i był zadowolony z efektu. W ramach dwóch pilotaży modele AI przeskanowały 548 repozytoriów kodu z 18 resortów i wykryły 1352 podatności, w tym obejścia autoryzacji, wycieki danych i możliwości zdalnego wykonania kodu.
Jedno z bardziej wymownych znalezisk: przestarzały workflow GitHub Actions, przez który zewnętrzny użytkownik mógł wprowadzić szkodliwy kod za pomocą specjalnie skonstruowanego komentarza do pull requesta. To właśnie typ błędu łatwy do przeoczenia podczas ręcznego audytu, ale trywialny dla modelu wyszkolonego do wykrywania akurat takiego wzorca.
Najbardziej zaskakująca jest jednak cena. Miesięczny przebieg w dziewięciu instytucjach rządowych kosztował zaledwie 13 000 funtów w tokenach AI. Tradycyjny test penetracyjny o porównywalnej skali zwykle kosztuje dziesiątki lub setki tysięcy funtów i trwa tygodnie. Zespoły stosowały różne podejścia — jeden zbudował sześcioetapowy łańcuch agentów AI (triage, walidator, audytor, tracer, sędzia, podsumowanie), inny nałożył trzy warstwy modeli na standardowe skanery, takie jak Gitleaks, Trivy i Semgrep.
Minister odpowiedzialny za AI, Kanishka Narayan, ogłosił rozszerzenie programu podczas przemówienia na Imperial College London. Wszystkie krytyczne podatności naprawiono, a śladów wykorzystania nie znaleziono w żadnym przypadku. Government Cyber Unit, National Cyber Security Centre i AI Security Institute planują teraz rozszerzyć metodę na kod zamknięty i kolejne resorty.
W ogłoszeniu jest też drugi, mniej spokojny wątek: Wielka Brytania zaczyna przygotowywać protokoły na wypadek, gdyby autonomiczne agenty AI wymknęły się spod ludzkiego nadzoru. Język wciąż jest ostrożny — „ryzyko utraty kontroli”, „protokoły reagowania na incydenty” — ale fakt, że rząd, który właśnie powierzył AI szukanie dziur we własnym kodzie, równolegle planuje, jak ją zatrzymać, gdy zacznie działać samodzielnie, mówi wiele o skali stawki.
