Перейти к содержимому

OpenAI, Google и Anthropic тайно готовят общий стандарт безопасности ИИ

Категория
Новости
Дата создания
Время чтения
5 мин

Три главных конкурента в гонке ИИ с июля обсуждают создание общего органа для проверки и аудита моделей перед релизом. Идею подал глава DeepMind Демис Хассабис.

Три главных соперника в гонке искусственного интеллекта — OpenAI, Google и Anthropic — с июля регулярно встречаются, чтобы обсудить создание общего органа по проверке ИИ-моделей перед их выпуском. Об этом рассказали источники The Information, а затем подтвердили Washington Post и ещё несколько изданий.

Идея принадлежит главе Google DeepMind Демису Хассабису: 14 июля он опубликовал эссе с предложением построить структуру по образцу американского регулятора финансового рынка FINRA — только для фронтирных моделей ИИ. Задача такого органа — независимая проверка систем на риски до того, как они попадут к пользователям: кибербезопасность, биологические угрозы, манипулятивное поведение.

Рабочие группы трёх компаний — уровнем ниже гендиректоров — с июля обсуждают детали: как часто проводить аудит, кто будет его проводить и на каких условиях модель можно считать безопасной для релиза. Глава OpenAI Сэм Альтман публично поддержал идею тестирующей организации, но подчеркнул: крупным лабораториям придётся строить её самим, не дожидаясь участия американских властей.

Новость появилась на фоне выходных, когда Дарио Амодей из Anthropic опубликовал эссе с призывом притормозить темпы развития ИИ — а Альтман, Илон Маск и сам Хассабис неожиданно поддержали его. Тогда акции технологических компаний просели: инвесторы восприняли единый фронт конкурентов как сигнал, что риски серьёзнее, чем казалось.

У идеи хватает скептиков. Схема с самостоятельной проверкой отрасли рискует повторить историю рейтинговых агентств перед кризисом 2008 года, когда те, кто оценивал риск, получали деньги от тех, кого оценивали. К 2028 году на рынке может быть 14–16 фронтирных моделей одновременно — потребуется постоянный поток проверок, а расходы на соответствие стандартам ударят по небольшим лабораториям сильнее, чем по гигантам. Плюс придётся как-то согласовать американский орган с уже действующим кодексом добросовестной практики Евросоюза для универсальных ИИ-моделей.

Прежние попытки саморегулирования — вроде Frontier Model Forum 2023 года — большого эффекта не дали. Получится ли на этот раз у компаний, которые ежедневно борются друг с другом за клиентов и таланты, договориться о правилах игры, пока не ясно.

Вопросы и ответы

Частые вопросы по теме статьи

О создании общего органа, который будет независимо проверять и аудировать топовые ИИ-модели на риски — кибербезопасность, биологические угрозы, манипулятивное поведение — ещё до их публичного релиза.

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Новости

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Часть похищенных токенов CYBER неизвестный уже обменял на $968 000 в ETH, пока Cyber расследует возможный взлом моста между Solana и Ethereum. Биржи Bithumb и Upbit в Корее приостановили переводы CYBER, но торги идут.

22 ноября 2026, 11:03 2 мин
Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Новости

Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Злоумышленник использовал уязвимость в стороннем сервисе логов и похитил средства пользователей, хотя их приватные ключи оставались на устройствах. Bitquery проследила $1,58 млн похищенных средств в шести блокчейнах.

22 ноября 2026, 08:11 2 мин