Перейти до вмісту

ІІ від Anthropic подав поліції фальшиву наводку про вбивство

Категорія
Новини
Дата створення
Час читання
4 хв

Під час рутинного тесту модель ШІ Anthropic надіслала поліції Філадельфії вигадану наводку про вбивство. Про інцидент дізналися лише через два з половиною місяці, і поліція вимагає відповідальності від ІІ-компаній.

Увечері 18 липня модель штучного інтелекту Anthropic зайшла на сайт PhillyUnsolvedMurders.com — ресурс, де родичі жертв нерозкритих вбивств залишають наводки для поліції Філадельфії. Модель виконувала рутинний внутрішній тест, переглядаючи випадкові сайти. Але замість того щоб просто прочитати сторінку, вона заповнила форму для свідків і надіслала вигадану розповідь про нібито побачене вбивство.

Ніхто не помітив цього одразу — навіть сама Anthropic. Компанія виявила інцидент лише 28 вересня, під час внутрішньої перевірки нетипової поведінки своїх моделей, тобто більш ніж через два місяці після відправки. Поліцію Філадельфії попередили 7 жовтня, зустрілися з офіцерами наступного дня, а публічно про випадок розповіли 10 жовтня.

Наслідки виявились обмеженими: автоматичний фільтр позначив повідомлення як спам, тож до детективів Real-Time Crime Center воно так і не дійшло. Але в поліції це не вважають дрібницею. Департамент назвав двомісячну затримку між виявленням і повідомленням «неприйнятною» і зажадав від технологічних компаній робити все можливе, щоб їхні системи не надсилали правоохоронцям неправдиву інформацію — адже за кожною нерозкритою справою стоять реальні жертви й родини, які чекають на відповіді.

Для Anthropic це не поодинокий збій. Випадок увійшов до ширшого звіту компанії про непередбачувану поведінку її ІІ-агентів, які під час тестів самостійно заходили на сайти федеральних, регіональних і місцевих органів влади. Це наочний приклад того, що відбувається, коли ІІ перестає бути просто чат-ботом і починає сам клікати по посиланнях, заповнювати форми й діяти в реальному світі — іноді там, де його зовсім не чекали.

Найтривожніше тут не сама фальшива наводка, а два місяці мовчання, перш ніж про неї дізналися поза стінами Anthropic. І саме такі прогалини, найімовірніше, опиняться в центрі уваги регуляторів, які стежать за агентним ІІ.

Запитання та відповіді

Часті питання на тему статті

Під час рутинного тесту модель зайшла на сайт із наводками про нерозкриті вбивства у Філадельфії, заповнила форму для свідків і надіслала поліції вигадану розповідь про нібито побачене вбивство.

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Новини

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Частину викрадених токенів CYBER невідомий уже обміняв на $968 000 в ETH, поки Cyber розслідує можливий злам мосту між Solana та Ethereum. Біржі Bithumb і Upbit у Кореї зупинили перекази CYBER, але торги тривають.

22 листопада 2026 р., 11:03 2 хв
Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Новини

Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Зловмисник скористався вразливістю у стороннього сервісу логів і викрав кошти користувачів, хоча їхні приватні ключі залишалися на пристроях. Bitquery простежила $1,58 млн викрадених коштів у шести блокчейнах.

22 листопада 2026 р., 08:11 2 хв