OpenAI, Google та Anthropic — три компанії, які очолюють гонку штучного інтелекту, — з липня регулярно зустрічаються, щоб обговорити створення спільного органу для перевірки та аудиту передових моделей перед їх випуском. Про перемовини першим повідомив The Information, згодом інформацію підтвердили Washington Post та інші видання.
Ідея належить очільнику Google DeepMind Демісу Хассабісу: 14 липня він опублікував есе з пропозицією створити структуру за зразком американського регулятора фондового ринку FINRA — тільки для передових моделей ШІ. Завдання такого органу — незалежно перевіряти системи на ризики до того, як вони потраплять до користувачів: кібербезпека, біологічні загрози, маніпулятивна поведінка.
Робочі групи трьох компаній, рівнем нижче генеральних директорів, з літа обговорюють деталі: як часто проводити аудит, хто його проводитиме і за яких умов модель можна вважати достатньо безпечною для релізу. Очільник OpenAI Сем Альтман публічно підтримав ідею тестувальної організації, але наголосив: великим лабораторіям доведеться будувати її самотужки, не чекаючи підтримки від Вашингтона.
Новина зʼявилася одразу після вихідних, коли Даріо Амодеї з Anthropic опублікував есе із закликом сповільнити темпи розвитку ШІ — а Альтман, Ілон Маск і сам Хассабіс несподівано підтримали його. Акції технологічних компаній тоді просіли: інвестори сприйняли єдиний фронт конкурентів як сигнал, що ризики серйозніші, ніж здавалося ринку.
Скептиків вистачає. Модель саморегулювання галузі ризикує повторити історію рейтингових агентств напередодні кризи 2008 року, коли ті, хто оцінював ризик, отримували гроші від тих, кого оцінювали. До 2028 року на ринку може бути 14–16 передових моделей одночасно — знадобиться безперервний потік перевірок, а витрати на відповідність стандартам вдарять по невеликих лабораторіях сильніше, ніж по гігантах. Додається й питання, як американський орган узгодити з уже чинним кодексом належної практики Євросоюзу для універсальних моделей ШІ.
Попередні спроби саморегулювання, як-от Frontier Model Forum 2023 року, великого ефекту не дали. Чи вдасться цього разу компаніям, які щодня конкурують за клієнтів і таланти, домовитися про спільні правила гри, поки не зрозуміло.
