Ұзақ уақыт OpenAI-дың қаржысы аз еуропалық баламасы деп саналған француз стартап-компаниясы Mistral AI енді Large 4 моделіне жалпыға қолжетімділік ашты. Бұл — ішкі атымен "le Chonk" аталатын, триллион параметрден тұратын модель. Бұрын-соңды толықтай Еуропа жерінде, американдық немесе қытайлық бұлтты есептеу қуаттарына жүгінбей оқытылған ең үлкен жасанды интеллект жүйесі осы.
Триллион параметр деген сөз әр сұрауға триллион есептеу жасалады дегенді білдірмейді. Large 4 mixture-of-experts архитектурасына негізделген: модель жадында әртүрлі тапсырмаларға маманданған көптеген ішкі желілерді сақтайды, бірақ әр нақты сұрау кезінде солардың небәрі шамамен 49 миллиард параметрін ғана қосады — дәл осы тапсырма үшін қажет "мамандарды". Бұл жүздеген кабинеті бар ғимаратта тек жұмыс істеп тұрған бөлмелерде ғана шамның жанғанына ұқсайды.
Модель нөлден бастап шамамен екі ай оқытылды, оған Mistral компаниясының Франциядағы меншікті дерекорталарында орналасқан шамамен 4000 Nvidia Grace Blackwell чипі пайдаланылды. Оқыту деректері 160-тан астам тілді, оның ішінде Еуропа одағының барлық ресми тілдерін қамтиды, ал модельдің контекст терезесі бір миллион токенге дейін жетеді.
Mistral компаниясының өз тестілеуі бойынша, Large 4 киберқауіпсіздік тапсырмаларында жақсы нәтиже көрсетеді — мысалы, Cybench сынақтарында 93% жетістікке жетті — сонымен қатар бағдарламалау мен қаржылық талдау тестілерінде де лайықты деңгейде тұрады. Бірақ бұл көрсеткіштердің тәуелсіз тексерісі әлі жүргізілген жоқ, ал Alibaba, DeepSeek және Zhipu сияқты бәсекелестер басқа әдістемелерді қолданады, сондықтан тікелей салыстыру қиын.
Еуропа үшін бұл жаңалықтың символикалық мәні зор. Осы кезге дейін ашық модельдер жарысын негізінен американдық және қытайлық зертханалар — Meta, DeepSeek, Alibaba, Moonshot — жүргізіп келді. Mistral бірнеше жыл бойы Франция үкіметі мен инвесторларының қолдауына "цифрлық тәуелсіздік" ұранымен сүйеніп келді, ал Large 4 — осы бәстің ақталып келе жатқанының алғашқы салмақты дәлелі.
Модельдің толық салмақтары 27 қазанда жарияланады деп жоспарланған. Тек сол кезде ғана әлемнің түкпір-түкпіріндегі әзірлеушілер Large 4-ті өз жабдықтарында іске қосып, Mistral ұсынған сандарды өздері тексере алады.
