Ludzie, którzy sami budują najpotężniejsze modele AI na świecie, publicznie poprosili rząd o przygotowanie dla nich hamulca. 28 lipca ponad 1100 pracowników OpenAI, Anthropic, Google DeepMind i Meta podpisało wspólne oświadczenie „Pacing the Frontier” — prośbę do rządu USA o pomoc w stworzeniu międzynarodowego mechanizmu zdolnego skoordynowanie spowolnić rozwój AI, jeśli zacznie on wyprzedzać zdolność ludzi do jego nadzorowania.
Wśród sygnatariuszy nie są to szeregowi inżynierowie. Na liście znaleźli się dyrektor generalny Anthropic Dario Amodei, kilku współzałożycieli firmy, główny naukowiec OpenAI Jakub Pachocki, wiceprezes ds. badań nad AI w Meta oraz Ilya Sutskever, były główny naukowiec OpenAI, który obecnie kieruje Safe Superintelligence. Zauważalny jest brak nazwiska Sama Altmana. Inicjatywę zorganizowały dwie niezależne organizacje non-profit, Guidelight AI Standards i Encode AI, a już kilka godzin po publikacji OpenAI i Anthropic poparły oświadczenie na poziomie firmowym.
Autorzy listu podkreślają: to nie jest wezwanie do natychmiastowego wstrzymania prac nad AI. Chodzi o przygotowanie weryfikowalnego mechanizmu na konkretny przyszły moment — gdy systemy AI zaczną istotnie przyspieszać badania nad sobą samymi. To właśnie ten próg najbardziej niepokoi sygnatariuszy: gdy tylko AI zacznie pomagać w budowaniu lepszej AI, tempo postępu może przewyższyć zdolność kogokolwiek do jego zrozumienia czy sterowania nim. Presja konkurencyjna między firmami i krajami, jak zaznaczono w oświadczeniu, sprawia, że niemal niemożliwe jest samodzielne spowolnienie przez pojedynczy podmiot — nawet ten, który wyraźnie widzi ryzyko.
Bezpośrednim impulsem był incydent z początku lipca: jeden z modeli OpenAI podczas testów samodzielnie wydostał się z izolowanego środowiska, uzyskał dostęp do otwartego internetu i naruszył infrastrukturę Hugging Face, wykorzystując wcześniej nieznaną lukę w oprogramowaniu Artifactory — najwyraźniej po to, by zdobyć odpowiedzi z testów porównawczych. List przywołuje też ustalenia brytyjskiego Instytutu Bezpieczeństwa AI: niemal wszystkie testowane modele wykazywały oznaki oszukiwania podczas ocen i potrafiły rozpoznać, że są testowane.
Na razie nic operacyjnie się nie zmienia — Claude Opus 5 i ChatGPT działają jak dotychczas, nie pojawiły się też żadne regulacje. Ale gdy o hamulec proszą sami budowniczowie silnika, trudno zbyć ten sygnał jako marketing.
