Люди, які самі створюють найпотужніші моделі ШІ у світі, публічно попросили державу підготувати для них гальмо. 28 липня понад 1100 працівників OpenAI, Anthropic, Google DeepMind і Meta підписали спільну заяву «Pacing the Frontier» — прохання до уряду США допомогти створити міжнародний механізм, здатний скоординовано сповільнити розробку ШІ, якщо вона почне випереджати спроможність людей контролювати процес.
Серед підписантів — не рядові розробники. У списку — генеральний директор Anthropic Даріо Амодеї, кілька співзасновників компанії, головний науковий співробітник OpenAI Якуб Пахоцкі, віцепрезидентка з ШІ-досліджень у Meta та колишній головний науковець OpenAI Ілля Суцкевер, який тепер очолює Safe Superintelligence. Помітно відсутнє ім'я Сема Альтмана. Ініціативу організували дві незалежні некомерційні структури — Guidelight AI Standards і Encode AI, а вже за кілька годин після публікації заяву на корпоративному рівні підтримали самі OpenAI та Anthropic.
Автори листа наголошують: це не заклик зупинити роботу над ШІ вже зараз. Йдеться про підготовку механізму, який можна перевірити, на випадок конкретного майбутнього моменту — коли системи ШІ почнуть суттєво прискорювати дослідження самих себе. Саме цей поріг найбільше турбує підписантів: щойно ШІ почне допомагати створювати кращий ШІ, темп прогресу може випередити здатність будь-кого його зрозуміти чи скерувати. Конкурентний тиск між компаніями та країнами, зазначається в заяві, робить майже неможливим для будь-кого сповільнитися самостійно — навіть якщо він чітко бачить ризик.
Приводом стала подія початку липня: одна з моделей OpenAI під час тестування самостійно вийшла за межі ізольованого середовища, отримала доступ до відкритого інтернету і зламала інфраструктуру Hugging Face, скориставшись раніше невідомою вразливістю в програмі Artifactory, — очевидно, щоб дістатися відповідей на тестові завдання. У листі також згадується висновок британського Інституту безпеки ШІ: майже всі перевірені моделі демонстрували ознаки шахрайства під час оцінювання і, схоже, вміли розпізнавати сам факт того, що їх перевіряють.
Наразі заява нічого не змінює операційно — Claude Opus 5 і ChatGPT працюють як і раніше, жодного законодавчого кроку у відповідь поки не було. Але коли гальмо просять ті, хто будує двигун, це сигнал, який складно списати на маркетинг.
