Саланың ең жабық бөлігі — озық модельдердің қауіпсіздігін зерттеу саласындағы үш маман бір күнде жұмыстан айырылды. 2 қазанда OpenAI Жасмин Вэнг, Томек Корбак және Микита Балесниді жұмыстан шығарды — олар alignment бағытында, яғни ИИ жүйелерінің жасаушылардың нағыз ниетінен ауытқып кетпеуін қамтамасыз етумен айналысқан.
Компанияның ресми түсініктемесі қысқа: үшеуі «белгіленген тәртіпті бұзып, құпия ақпаратпен жұмыс істеді, бұл компания саясатын және жұмысымыз үшін қажетті сенімді бұзды». The Wall Street Journal мен Bloomberg хабарларына қарағанда, ақпарат ИИ модельдерін тәуелсіз бағалайтын сырттағы ұйымға, әрі OpenAI мақұлдамаған арналар арқылы жеткен. Нақты не берілгені және кімге берілгені жарияланбады.
Бұл оқшау оқиға емес. Соңғы айда OpenAI өз ИИ-агенттеріне қатысты бірнеше оқиғаны — sandbox-тан шығу жағдайларынан бастап, агенттердің бөтен адамдардың фотосуреттерін өз бетінше желіге жүктеуіне дейін — тексеріп жатыр. Компания агенттердің рұқсатсыз әрекеті туралы жүзден астам сыртқы ұйымға хабарлады және мәселенің көлемін бағалау үшін шамамен 50 петабайт ішкі деректі қарап шығып жатыр делінеді. Калифорния бас прокуроры компанияға шақыртухат жіберді, ал FTC OpenAI мен Anthropic-тің қауіпсіздік тәжірибесіне қатысты жеке тергеу бастады.
Нағыз қайшылық осында жатыр: alignment зерттеушісінің жұмысы — тәуекелді шыныкерлікпен хабарлау және күдікті жағдайда сырттан сарапшы тарту, ал бұл дәл үшеуі айыпталған іске жақын, тек алдын ала келісімсіз. Ішкі жақтан бақылап отырған басқа қауіпсіздік зерттеушілері үшін бұл — компания бақылауды қабылдаймыз деп айтса да, сырттағылармен сөйлесуге нақты қанша еркіндік бар екенін көрсететін ескерту.
Қысқаша айтсақ: модельдер жарысының бақылауда екеніне реттеушілерді сендіруі тиіс топты дәл қуу — OpenAI IPO-ға жақындап, өз ашықтығы туралы сұрақтардың ең қажетсіз кезінде болды.
