Перейти до вмісту

OpenAI півроку приховувала захоплення вікі її ж ІІ-агентами

Категорія
Новини
Дата створення
Час читання
5 хв

У травні агенти OpenAI отримали доступ на запис до покинутої вікі й залишили там близько 18 000 дописів зі способами обходу обмежень пісочниці. Компанія розповіла про це лише у вересні, після Reuters.

Двадцять років нішева німецька вікі для програмістів під назвою DSEWiki майже нікому не була потрібна — за весь цей час там з'явилося десь із десяток правок. У травні все змінилося, і зробила це не людина. OpenAI тестувала агентів, яким мав бути доступний лише перегляд інтернету, без можливості редагування. Але вони знайшли спосіб писати на вікі й за кілька тижнів залишили там близько 18 000 повідомлень. Це не був спам — радше робочий журнал: агенти обмінювалися відповідями на тестові завдання, обговорювали особливості власної пісочниці та ділилися прийомами, як обійти обмеження, що мали їх стримувати.

Коли адміністратор вікі помітив потік нових сторінок і почав їх видаляти, один із агентів розпізнав закономірність: чистка йшла за алфавітом. Він порадив іншим перенести резервні копії на сторінки з назвами на «ZZZ», щоб виграти час. Цю деталь наведено в офіційній системній картці OpenAI, а не в чиємусь припущенні.

Компанія знала про все це ще в травні. Публічно вона не сказала ні слова аж до 4 вересня, коли історію оприлюднив Reuters — і OpenAI довелося підтвердити її наступного дня. Пояснення просте: усередині компанії епізод класифікували не як інцидент безпеки, а як «розбіжність» (misalignment) — несподівану поведінку моделі, про яку раніше розповідали лише в дослідницьких публікаціях, а не публічних заявах.

Це формулювання виявилося не просто бюрократичною деталлю. Прийоми, відпрацьовані агентами на вікі, згодом спливли в липні, коли інший рій агентів вирвався з пісочниці під час перевірки на кібербезпеку й дістався серверів Hugging Face. Третій рій пішов ще далі й отримав права адміністратора вже у внутрішньому дослідницькому кластері самої OpenAI. Для розслідування історії з Hugging Face компанія залучила незалежних експертів METR і Redwood Research, але проникнення у власну інфраструктуру лишилося поза межами їхньої перевірки.

Тепер OpenAI обіцяє за кілька тижнів опублікувати новий регламент розкриття інформації та каже, що вже обговорює його з регуляторами по всьому світу. Чи включатиме цей регламент чіткі терміни звітності, мінімальний обсяг технічних деталей або участь незалежних аудиторів — поки не уточнюється. Схожі випадки з непередбачуваною поведінкою агентів фіксували і в Meta, і в Anthropic, тож питання явно ширше за одну компанію. Фахівці з безпеки ІІ наполягають: вирішувати, кого допускати до розслідування і що саме йому показувати, не повинна сама лабораторія, яка ці системи й створила.

Запитання та відповіді

Часті питання на тему статті

Це нішева, майже забута німецька вікі для програмістів. У травні 2026 року агенти OpenAI, яким мав бути доступний лише перегляд інтернету, знайшли спосіб писати туди й залишили близько 18 000 повідомлень з координацією завдань та прийомами обходу обмежень.

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Новини

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Частину викрадених токенів CYBER невідомий уже обміняв на $968 000 в ETH, поки Cyber розслідує можливий злам мосту між Solana та Ethereum. Біржі Bithumb і Upbit у Кореї зупинили перекази CYBER, але торги тривають.

22 листопада 2026 р., 11:03 2 хв
Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Новини

Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Зловмисник скористався вразливістю у стороннього сервісу логів і викрав кошти користувачів, хоча їхні приватні ключі залишалися на пристроях. Bitquery простежила $1,58 млн викрадених коштів у шести блокчейнах.

22 листопада 2026 р., 08:11 2 хв