DeepSeek өзінің жасанды интеллект операцияларының шығындарын азайтуға көмектесетін құралды қолжетімді етті.

DeepSeek, кәсіпкер Лианг Вэньфэнь негізін қалаған қытайлық жасанды интеллект зертханасы, өз модельдерін іске қосатын DeepInfer бағдарламасын тегін қолжетімді етті. Бұл құрал компанияның жасанды интеллект модельдерін жеделдетеді және есептеу қуатын тиімдірек пайдалануға көмектеседі.

Біз өз жұмыс бағдарламалық стектімізді (модельдер жұмыс істейтін бағдарламалық қамтамасыз етуді) бөлісеміз . — Oninvest ескертпесі) қауымдастыққа есептеу шығындарын азайтуға, энергия тұтынуды қысқартуға және жасанды интеллектіні қолжетімді етуге көмектесу үшін», – деп компания 20 қазанда X әлеуметтік желісіндегі платформада хабарлады.

Қазіргі уақытта DeepInfer тек DeepSeek-тің V4.1-Flashжасанды интеллект моделімен жұмыс істейді, бірақ компания Bloomberg мәліметіне сәйкес болашақ модельдерді де қолдайтынын мәлімдеді. Бұл құрал оқытылған модель жауаптар жасайтын инференция кезеңінің шығындарын азайтуға арналған. Осы шығындар негізінен AI қызметтерінің экономикасын анықтайды: модельді оқыту бір реттік, ірі шығын болса, инференция әрбір пайдаланушы сұранымы бойынша ақы төленеді.

DeepInfer-дің бастапқы кодын жариялау жасанды интеллект компаниялары әдетте жасырып қоятын техникалық әдістерге терең үңілуге мүмкіндік береді және DeepSeek-тің болжау шығындарын қалай төмен ұстайтынын көрсетеді, деп түсіндіреді Bloomberg. DeepInfer әртүрлі әдістерді біріктіреді — мысалы, жүктемені әртүрлі аппараттық құралдарға бөлетін таратылған инференция. Осы әдістердің арқасында модельдер қысқа уақытта көбірек жауап жасап, чиптердің өнімділігін барынша арттырады. Осы әдістердің көпшілігі кеңінен қолданылады, бірақ DeepSeek оларды өз модельдерімен тиімді жұмыс істеу үшін бейімдегенін агенттік атап өтті.

Bloomberg мәліметі бойынша, тиімдірек бағдарламалық жасақтама әрбір сұранысты өңдеу шығынын азайтып, энергия тұтынуды ықтимал түрде қысқарта алады. Бұл DeepSeek модельдерін орналастыратын бұлттық және хостинг провайдерлерінің пайда маржасын арттырып, соңғы тұтынушылар үшін бағаларды төмендетуге әкелуі мүмкін. Өз инфрақұрылымында DeepSeek модельдерін іске қосатын компаниялар үшін DeepInfer операциялық шығындарды азайтуға көмектеседі.

Агенттік DeepInfer ұсынатын өнімділік артықшылықтарын растайтын әзірге ешқандай тәуелсіз сынақтардың жоқ екенін ерекше атап көрсетеді. Алайда бұл құрал негізінен DeepSeek модельдері үшін жасалғанымен, үшінші тарап әзірлеушілері ашық бастапқы кодты зерттеп, оның шешімдерін өз инференция жүйелерінде қолдана алады.

DeepSeek 2025 жылдың басында R1 моделінің жариялануынан кейін бүкіл әлемге танылды; компания мәліметі бойынша, оның оқыту шығындары -ден 6 миллион долларға дейін ғана болған, бұл америкалық баламаларына қарағанда әлдеқайда арзан. Бұл оқиға AI секторы есептеу қуатына тым көп ақы төлеп жатқан жоқ па деген қорқыныштан технологиялық акциялардың 1 триллион долларлық сатылуына әкелді.

Қазір Reuters дереккөздеріне сүйенсек, DeepSeek 2026 жылдың жазынан бастап өзінің инференциялық чипін әзірлеумен айналысып келеді — үшінші тарап компанияларының, соның ішінде Nvidia өндірген чиптерге тәуелділікті азайту мақсатында. Сонымен қатар, компания екінші қаржыландыру раундында кемінде 12 миллиард доллар тартуды көздейді, бұл AI зертханасының бағалануын шамамен 1,5 есеге арттырып, 500 миллиард юаньға (шамамен 75 миллиард долларға) жеткізуге мүмкіндік береді. Bloomberg мәліметі бойынша, DeepSeek келесі жылдың басында IPO өткізуді жоспарлап отыр.