Көпшілік жасанды интеллектке маңызды бір нәрсе сенуге болады ма деп таласып жатқанда, Британия үкіметі оған өз кодының кілтін тікелей ұстатты — және нәтижеге көңілі толды. Екі пилоттық бағдарлама барысында ЖИ модельдері 18 ведомствоның 548 код репозиторийін тексеріп, 1352 олқылық тапты, оның ішінде авторизацияны айналып өту, деректер ағуы және қашықтан код орындау мүмкіндіктері бар.
Ең көрнекті жаңалықтардың бірі — ескірген GitHub Actions жұмыс ағыны, оның арқылы сыртқы пайдаланушы арнайы құрастырылған pull request пікірі арқылы зиянды код өткізе алатын еді. Бұл қолмен тексеруде оңай байқалмай қалатын, бірақ дәл осындай үлгіні табуға үйретілген модель үшін оп-оңай табылатын олқылық түрі.
Бірақ ең қызығы — бағасы. Тоғыз мемлекеттік ұйым бойынша бір айлық тексеру ЖИ токендеріне бар-жоғы £13 000 түсті. Соған ұқсас дәстүрлі penetration testing әдетте он мыңдаған, тіпті жүз мыңдаған фунт тұрады және апталап уақыт алады. Топтар әртүрлі тәсіл қолданды — бірі алты сатылы ЖИ-агент тізбегін құрды (triage, валидатор, аудитор, трассировщик, судья, қорытынды), екіншісі Gitleaks, Trivy, Semgrep сияқты әдеттегі сканерлердің үстіне үш қабат модель қосты.
ЖИ мәселелері жөніндегі министр Канишка Нараян бағдарламаны кеңейту туралы Imperial College London-да сөйлеген сөзінде жариялады. Барлық сын-қатерлі олқылықтар жойылды, еш бір жағдайда пайдаланылған іздер табылмады. Енді Government Cyber Unit, Ұлттық киберқауіпсіздік орталығы және AI Security Institute әдісті жабық кодқа және көбірек ведомствоға тарату жоспарлап отыр.
Хабарламада екінші, аз тыныштандыратын желі де бар: Британия автономды ЖИ-агенттер адам бақылауынан шығып кетсе не істеу керегі туралы хаттамалар дайындай бастады. Тұжырымдама әлі де сақ — «бақылауды жоғалту қаупі», «оқыс жағдайға жауап беру хаттамалары» — бірақ өз жүйесіндегі олқылықты іздеуге ЖИ-ге жаңа ғана сенім артқан үкімет, сонымен қатар ол бақылаудан шыққан жағдайда қалай тоқтатуды да ойластыра бастауы — тәуекелдің қаншалықты өскенін көрсетеді.
