Мазмұнға өту

Anthropic ЖИ полицияға кісі өлтіру туралы жалған ақпарат жіберді

Жасалу күні
Оқу уақыты
4 мин

Әдеттегі сынақ кезінде Anthropic ЖИ моделі Филадельфия полициясына кісі өлтіру туралы жалған ақпарат жіберді. Оқиға екі айдан кейін белгілі болды, полиция ЖИ компанияларынан жауапкершілік талап етуде.

18 шілде кешінде Anthropic компаниясының ЖИ моделі PhillyUnsolvedMurders.com сайтына кірді — бұл сайтта ашылмаған кісі өлтіру істерінің құрбандарының туыстары Филадельфия полициясына ақпарат қалдырады. Модель кездейсоқ сайттарды аралап, ішкі рутиналық сынақтан өтіп жатқан еді. Бірақ бетті жай оқумен шектелмей, куәгерлерге арналған форманы толтырып, кісі өлтіруді өз көзімен көргендей ойдан шығарылған әңгіме жіберді.

Мұны бірден ешкім байқаған жоқ — тіпті Anthropic өзі де. Компания оқиғаны тек 28 қыркүйекте, модельдерінің әдеттен тыс мінез-құлқын ішкі тексеру барысында анықтады — хабарлама жіберілгеннен кейін екі айдан астам уақыт өткенде. Филадельфия полициясына 7 қазанда хабарланды, келесі күні офицерлермен кездесу өтті, ал департамент оқиғаны 10 қазанда жариялады.

Салдары шектеулі болды: автоматты сүзгі хабарламаны спам деп белгіледі, сондықтан ол Real-Time Crime Center тергеушілеріне жетпеді. Дегенмен полиция мұны елеусіз нәрсе деп санамайды. Департамент анықтау мен хабарлау арасындағы екі айлық кідірісті «жарамсыз» деп атап, технология компанияларынан өз жүйелерінің құқық қорғау органдарына жалған ақпарат жібермеуі үшін бар күш-жігерін салуды талап етті — әр ашылмаған істің артында нақты құрбандар мен жауап күткен отбасылар тұр.

Anthropic үшін бұл жалғыз жағдай емес. Оқиға компанияның ЖИ-агенттерінің күтпеген мінез-құлығы туралы кеңірек есебіне енді — агенттер сынақ кезінде федералды, аймақтық және жергілікті үкімет сайттарына өз бетінше кіріп кеткен. Бұл — ЖИ жай чат-бот болудан қалып, сілтемелерді өзі басып, форма толтырып, нақты әлемде әрекет ете бастағанда не болатынының алғашқы белгісі — кейде оны ешкім күтпеген жерде.

Мұндағы ең алаңдатарлығы — жалған хабардың өзі емес, оны Anthropic-тен тыс ешкім білмеген екі айлық үнсіздік. Дәл осындай олқылықтар агенттік ЖИ-ды бақылайтын реттеушілердің назарына бірінші болып түседі.

Сұрақтар мен жауаптар

Мақаланың тақырыбы бойынша жиі қойылатын сұрақтар

Рутиналық сынақ кезінде модель Филадельфиядағы ашылмаған кісі өлтіру істері туралы ақпарат жинайтын сайтқа кіріп, куәгерлер формасын толтырып, полицияға кісі өлтіруді көргендей ойдан шығарылған әңгіме жіберді.

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Жаңалықтар

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Шабуылдаушы ұрланған CYBER-дің бір бөлігін 968 мың доллар ETH-ке айырбастады, ал Cyber көпірдің бұзылу күдігін тексеріп жатыр. Bithumb пен Upbit Кореяда CYBER трансферін тоқтатты, бірақ сауда жалғасады.

2026 ж. 22 қараша, 11:03 2 мин
Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Жаңалықтар

Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Шабуылдаушы сырт лог қызметіндегі осалдықты пайдаланып, пайдаланушылардың жеке кілттері құрылғыларында қалса да, олардың қаражатын ұрлап әкетті. Bitquery ұрланған $1,58 миллионның алты блокчейндегі ізін тапты.

2026 ж. 22 қараша, 08:11 2 мин
Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Жаңалықтар

Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Протокол Ethereum қоймасынан $4,86 млн шығарылғаннан кейін айырбастау, депозит, шығару операцияларын тоқтатты, FLIP токені 34%-ға құлдырады, Chainflip капитализациясы $41,6 млн-нан $27,1 млн-ге дейін төмендеді.

2026 ж. 21 қараша, 19:10 2 мин