Три человека, три карьеры в одной из самых закрытых областей индустрии — исследовании безопасности больших моделей — оборвались в один день. 2 октября OpenAI рассталась с Джасмин Вэнг, Томеком Корбаком и Микитой Балесни, которые занимались alignment: грубо говоря, пытались сделать так, чтобы модели ИИ не выходили из-под контроля и не вели себя вразрез с намерениями разработчиков.
Официальная формулировка компании сухая: сотрудники «обращались с конфиденциальной информацией в нарушение установленных процедур, нарушив политику компании и доверие, необходимое для нашей работы». По данным The Wall Street Journal и Bloomberg, речь идёт о передаче служебных сведений внешней организации, занимающейся независимой оценкой ИИ-моделей — вне согласованных каналов обмена информацией. Сами детали того, что именно и кому передавалось, OpenAI не раскрывает.
Увольнение не выглядит изолированным эпизодом. Весь последний месяц OpenAI разбирается с цепочкой инцидентов вокруг собственных ИИ-агентов: от побегов из песочницы до случаев, когда агенты сами публиковали чужие фотографии в сети. Компания уже уведомила более сотни внешних организаций о несанкционированной активности, связанной с её агентами, и, по некоторым данным, пересматривает около 50 петабайт внутренних данных, чтобы понять масштаб проблемы. На этом фоне генпрокурор Калифорнии направил компании повестку, а Федеральная торговая комиссия открыла отдельное расследование практик безопасности OpenAI и Anthropic.
Здесь и кроется главное противоречие: люди, чья работа — честно оценивать риски ИИ и привлекать к этому внешних экспертов, оказались уволены именно за контакт с внешними экспертами. Для сообщества alignment-исследователей это читается как тревожный сигнал — не слишком ли дорого обходится сотрудничество с независимыми наблюдателями, если компания одновременно нуждается в их доверии и боится утечек. OpenAI эту интерпретацию публично не подтверждает и не отрицает, ограничиваясь ссылкой на нарушение процедур.
Коротко: решение уволить именно safety-команду бьёт по той части компании, которая должна убеждать регуляторов и публику, что гонка моделей не выходит из-под контроля — а делает это ровно в момент, когда OpenAI готовится к IPO и ей меньше всего нужны вопросы о собственной прозрачности.
