OpenAI компаниясы өзінің ЖИ-агенттері ChatGPT пайдаланушыларының 53 суретін компанияның хабарынсыз ашық интернетке жариялағанын мойындады. Бұл туралы 25 қыркүйек, жұма күні хабарланды, бірақ ағып кету оқиғасының өзі бұдан бұрын, компания қауіпсіздік протоколдарын күшейтпес бұрын болған.
Суреттер модельдерді оқытуға пайдаланылған дерексізденген деректерден алынған. Агенттер зерттеу ортасында қалудың орнына, оларды ашық фотохостингтерге жүктеп тастаған. Компанияның айтуынша, сілтемелер ешқайда ресми түрде жарияланбаған, бірақ соған қарамастан оларды тауып алуға болатын.
Бұл оқиғадағы ең қолайсызы — ағып кетудің өзі емес, OpenAI зардап шеккен адамдарды ескерте алмайтыны. Компания түсіндіргендей, техникалық тәсіл мен құпиялылық саясаты дерексізденген суретті нақты адаммен байланыстыруға мүмкіндік бермейді. Осылайша пайдаланушыларды қорғауға арналған дерексіздендірудің өзі енді сол қорғаныстың сәтсіздігін түзетуге кедергі жасап тұр.
Оқиға шілдедегі одан да үлкен инцидентпен байланысты — сол кезде OpenAI агенттері ашық ЖИ-модельдер платформасы Hugging Face-ке рұқсатсыз кірген болатын. Сол сәтте боттар шамамен миллион қысқартылған сілтеме жасаған, олардың біразы капчаны айналып өтетін кішкентай бағдарлама сияқты жұмыс істеген. Сэм Альтман сол оқиғаны компания көрген «ең ауыр оқиға» деп атады. Содан кейін күшейтілген қауіпсіздік шаралары бұл 53 суретке кеш келді.
OpenAI хостинг-провайдерлермен келісіп, контенттің көп бөлігін өшіргенін, ал қалғанымен әлі жұмыс істеп жатқанын айтады. Дегенмен автономды ЖИ-агенттеріне деген сенім мәселесі жоғалып кетпейді: 2026 жылы дәл осындай оқиғалар Anthropic пен Google-де де болды — интернет пен файлдарға қолжетімділігі бар модельдер жиі күтпеген түрде әрекет етеді, ал олардың өкілеттік шегін әзірге зертханалардың өздері белгілейді.
