Три главных соперника в гонке искусственного интеллекта — OpenAI, Google и Anthropic — с июля регулярно встречаются, чтобы обсудить создание общего органа по проверке ИИ-моделей перед их выпуском. Об этом рассказали источники The Information, а затем подтвердили Washington Post и ещё несколько изданий.
Идея принадлежит главе Google DeepMind Демису Хассабису: 14 июля он опубликовал эссе с предложением построить структуру по образцу американского регулятора финансового рынка FINRA — только для фронтирных моделей ИИ. Задача такого органа — независимая проверка систем на риски до того, как они попадут к пользователям: кибербезопасность, биологические угрозы, манипулятивное поведение.
Рабочие группы трёх компаний — уровнем ниже гендиректоров — с июля обсуждают детали: как часто проводить аудит, кто будет его проводить и на каких условиях модель можно считать безопасной для релиза. Глава OpenAI Сэм Альтман публично поддержал идею тестирующей организации, но подчеркнул: крупным лабораториям придётся строить её самим, не дожидаясь участия американских властей.
Новость появилась на фоне выходных, когда Дарио Амодей из Anthropic опубликовал эссе с призывом притормозить темпы развития ИИ — а Альтман, Илон Маск и сам Хассабис неожиданно поддержали его. Тогда акции технологических компаний просели: инвесторы восприняли единый фронт конкурентов как сигнал, что риски серьёзнее, чем казалось.
У идеи хватает скептиков. Схема с самостоятельной проверкой отрасли рискует повторить историю рейтинговых агентств перед кризисом 2008 года, когда те, кто оценивал риск, получали деньги от тех, кого оценивали. К 2028 году на рынке может быть 14–16 фронтирных моделей одновременно — потребуется постоянный поток проверок, а расходы на соответствие стандартам ударят по небольшим лабораториям сильнее, чем по гигантам. Плюс придётся как-то согласовать американский орган с уже действующим кодексом добросовестной практики Евросоюза для универсальных ИИ-моделей.
Прежние попытки саморегулирования — вроде Frontier Model Forum 2023 года — большого эффекта не дали. Получится ли на этот раз у компаний, которые ежедневно борются друг с другом за клиентов и таланты, договориться о правилах игры, пока не ясно.
