OpenAI өз Jalapeño чипінің сынақтарда Nvidia процессорларынан озық түскенін жариялады.

Жасанды интеллект алпауыт компаниясы OpenAI 25 тамызда маусым айында таныстырылған жаңа Jalapeño чиптері сынақтарда Nvidia-ның қазіргі процессорлар ассортиментінен озық түскенін хабарлады. Бұл компанияның өз жасанды интеллект процессорларын әзірлеудегі ілгерілеуін көрсетеді, деп жазады Bloomberg.

OpenAI Broadcom компаниясымен бірлесіп әзірлеген Jalapeño екі көрсеткіш бойынша өткізілген сынақтарда көш бастады: энергия тұтыну бірлігіне есептелген AI есептеу қуаты және жауап беру жылдамдығы. Чип сынақ үшін қолданылған ашық бенчмаркинг жүйесінде ең үздік көрсеткіш көрсеткен Nvidia GB300-пен салыстырылды, – деп Bloomberg-ке компанияның тиісті бөлімшесінің басшысы Ричард Хо түсіндірді.

Jalapeño сынақтарда жаңа буындағы Nvidia Vera Rubin процессорларымен салыстырылмады, олар енді ғана жеткізіле бастады. Сонымен қатар, ол жасанды интеллект модельдерін оқытуға арналмаған — бұл Nvidia технологияларының ерекше күшті саласы. OpenAI чипі инференция кезеңіне — алдын ала оқытылған нейрондық желіні пайдаланып, пайдаланушы сұрауларына жауаптар жасау процесіне арналған.

Әдетте кейбір чиптер үлкен көлемдегі жасанды интеллект есептеулерін өңдеуге жақсы, ал басқалары жауаптарды тез беруге тиімді; алайда Jalapeño екі артықшылықты да біріктіреді, деді Хо. OpenAI әлі қай AI моделін осы жүйеде іске қосатынын шешкен жоқ, бұл клиенттерге төмен шығынды немесе жоғары өнімділікті ұсынатын нұсқалар арасында таңдау жасауға мүмкіндік береді, – деп түсіндірді жоғары лауазымды басшы.

«Зертханалық жағдайда Jalapeño жоғары өнімділікті көрсетеді: жоғары өткізу қабілеті режимінде — бұл көптеген тұтынушыларға үнемдірек қызмет көрсетуге мүмкіндік береді — және төмен кешігу режимінде, яғни бұл маңызды тұтынушылар үшін жауап беру уақыты шынымен де өте қысқа болады», деді Хо Bloomberg-ке.

Оның айтуынша, чип салыстырмалы түрде аз қуат тұтына отырып, жоғары өнімділік көрсететіндіктен, OpenAI-ға электр энергиясы негізгі шығын баптарының бірі болып табылатын деректер орталықтарының жұмыс істеу шығындарын үнемдеуге мүмкіндік береді. Broadcom компаниясының бас директоры Хок Тан ның айтуынша, осы кезеңде чип дәстүрлі AI GPU-ларына қарағанда шамамен 50 пайызға үнемдеуді қамтамасыз етеді.

Компания мәлімдегендей, Jalapeño-ның толық өндірістік нұсқалары биылғы жылдың екінші жартысында Microsoft пен басқа OpenAI серіктестері басқаратын ірі деректер орталықтарына енгізіледі.