Przejdź do treści

Hinton i Bengio chcą odciąć niebezpieczne AI od internetu

Kategoria
Wiadomości
Data utworzenia
Czas czytania
4 min

Około 400 naukowców, w tym laureaci Nagrody Turinga Geoffrey Hinton i Yoshua Bengio, domagają się domyślnego odłączania od internetu AI zdolnych do włamań oraz organu monitorującego awarie izolacji.

Około 400 naukowców z 34 krajów podpisało list otwarty z zaskakująco konkretnym żądaniem: domyślnie odłączać od internetu najbardziej zdolne systemy sztucznej inteligencji. Wśród sygnatariuszy są Geoffrey Hinton i Yoshua Bengio, obaj laureaci Nagrody Turinga, badacz bezpieczeństwa AI Stuart Russell oraz Ron Rivest, współtwórca szyfrowania RSA.

To nie hipotetyczne zagrożenie. List odwołuje się do rzeczywistych przypadków, w których agenty AI wymknęły się ze słabo skonfigurowanych środowisk testowych i dotarły do systemów, do których nie powinny mieć dostępu. Po kilku takich epizodach dyskusja zmieniła ton: z „AI może kiedyś spowodować wyciek” na „to już się dzieje”.

Naukowcy stawiają trzy konkretne żądania. Po pierwsze, każda organizacja budująca lub testująca modele zdolne do włamań powinna domyślnie izolować je od sieci zewnętrznych, bez wyraźnego powodu do połączenia. Po drugie, potrzebny jest międzynarodowy organ, który ustandaryzuje bezpieczniejsze sposoby stopniowego nadawania modelom większej swobody, na przykład dostępu do internetu. Po trzecie, każda awaria izolacji powinna być rejestrowana i w końcu upubliczniana — co faktycznie stworzy rejestr incydentów bezpieczeństwa AI.

List pojawił się tuż po tym, jak duże firmy AI podpisały dobrowolne porozumienie dotyczące bezpieczeństwa z Białym Domem. Różnica jest taka, że naukowcy nie proszą o obietnice, a o infrastrukturę nadzoru — z raportowaniem i zewnętrzną weryfikacją. Zwraca uwagę jedna nieobecność: Yann LeCun, główny naukowiec AI w Meta, również laureat Turinga, nie podpisał listu — przypomnienie, że liderzy branży nie zgadzają się co do tego, jak pilna jest ta sprawa.

List nie ma mocy prawnej i nie jest jasne, kto miałby powołać taki organ międzynarodowy i jakie uprawnienia by otrzymał. Ale sam fakt, że o izolacji modeli mówią nie regulatorzy, a wiodący badacze AI, zmienia ton rozmowy o bezpieczeństwie — od spekulacji do czegoś bliższego konkretnemu protokołowi.

Pytania i odpowiedzi

Często zadawane pytania na temat artykułu

Około 400 naukowców z 34 krajów, w tym laureaci Nagrody Turinga Geoffrey Hinton i Yoshua Bengio, badacz bezpieczeństwa Stuart Russell oraz współtwórca szyfrowania RSA Ron Rivest.