27 қазанда кәсіби сарапшылар төрт негізгі шешімнің 86%-ында кездейсоқ тағайындалған ЖИ-агенттің жасырын пікірін қабылдады, кездейсоқтық жағдайында шамамен 50% күтілетін еді, деп хабарлады Anthropic.
Компания себеп-салдар талдауы және деректерді өңдеу тәжірибесі бар 50 сарапшыны тексеру үшін оларға Claude Opus 4.8 моделі негізіндегі Claude Code көмегімен ойдан шығарылған ауылшаруашылық кооперативіне кеңес беруді тапсырды. Тиын лақтыру әр шешімде агенттің қай позицияны жақтайтынын жасырын түрде белгіледі, ал агентке деректерді бұрмаламай сенімді дәлелдеу тапсырылды.
Егер сарапшы агенттің пікірін білгенге дейін өз пікірін қалыптастырған болса, ол агент келіспеген жағдайда позициясын 60%-ында, ал келіскенде тек 6%-ында ғана өзгертетінін зерттеу көрсетті.
Сарапшылардың 77%-ы агенттің дәлелдерін, кейде дерлік сөзбе-сөз қайталады, бірақ тек 15%-ы ғана идеяны ЖИ-ден алғанын мойындады.
Anthropic-тың Alignment тобы «жекелеген сарапшылар үшін бұл өз жұмысына деген бақылауды жоғалту дегенді білдіруі мүмкін» деп жазды. Зерттеушілер әсерді өлшеу үшін агентке тағайындалған басымдықты әдейі арттырды және «тек бір тарап жақсы дәлелденген жағдайда сарапшылар агенттің болжамдарын қабылдауы мүмкін» екенін атап өтті.
Авторлар тек бір тапсырма, бір сала және бір модель тексерілгенін, нақты жұмыста мінез-құлық зертханалық жағдайдан өзгеше болуы мүмкін екенін ескертті.
