Apple AI модельдерінің көлемін қысқартатын стартапты тапты. Бұл Siri-ді жақсартуға көмектесуі мүмкін.

Apple Силикон алқабындағы шағын PrismML компаниясымен келіссөздер жүргізіп жатыр, ол өзінің қуатты жасанды интеллект модельдерін iPhone-да тікелей іске қосуға болатындай етіп кішірейтіп бере алатынын мәлімдейді. PrismML стартапының бас директоры Бабак Хассиби бұл туралы CNBC-ге берген сұхбатында өзі айтты.

Егер стартаптың мәлімдемелері нақты сынақтарда расталса, Телеарна атап өткендей, компанияның технологиясы деректер орталықтарындағы жад пен есептеу қуатына деген сұранысты түбегейлі өзгертуі мүмкін, алайда сарапшылардың айтуынша, жасанды интеллекттің қажеттіліктерін қанағаттандыру үшін әлі де көп мөлшерде чиптер қажет болады.

Apple акциялары 15 шілдеде нарық алдындағы саудада 0,8%-ға өсті. Олар жыл басынан бері шамамен 16%-ға өсті.

PrismML Alibaba компаниясының Qwen деп аталатын ашық бастапқы кодты тілдік моделін пайдаланады Компанияның бас директорының айтуынша, стартап модель көлемін шамамен 54 ГБ-тан 4 ГБ-тан азға дейін қысқартып, iPhone 15 немесе одан кейінгі модельдерде Qwen-нің барлық 27 миллиард параметрін іске қосуға мүмкіндік берді.

Apple және басқа да компаниялар қазіргі уақытта стартаптың технологиясын бағалап, оның жылдамдығын, энергия тиімділігін және құрылғылардағы өнімділігін өлшеп жатыр, – деді Хассиби: «Олар шынымен де қазір біздің технологиямызды зерттеп жатыр», – деп атап өтті ол, әңгімелер өте ерте кезеңде екенін және олардың нәтижесі әлі белгісіз екенін қосты.

Apple пікір сұрауға жедел жауап бермеді.

Apple 14 шілдеде PrismML-ді әзірлеуді ресми түрде жариялады — бұл жаңалық iOS 27-нің қоғамдық бета-тестілеуін бастағаннан бір күн кейін шықты, осылайша iPhone иелері ұзақ күткен Siri жаңартуына алғаш рет кең көлемде қол жеткізе алды, деп хабарлайды CNBC. Apple OpenAI мен Anthropic компанияларының ассистенттерімен бәсекеге қабілетті Siri жасауды мақсат етіп отыр, сонымен бірге құрылғыда жасанды интеллект арқылы деректерді өңдеу мүмкіндігін сақтап қалмақ.

Дегенмен, қуатты жасанды интеллект модельдерін смартфонда іске қосу үшін әдетте көп жад пен есептеу қуаты қажет екенін телеарна түсіндіреді. CNBC түсіндіргендей, оларды құрылғыда тікелей іске қосу мүмкіндігі Apple-ге қашықтағы серверлерге қосылу кезіндегі кідірістерді азайтуға, бұлтты есептеу шығындарын қысқартуға және деректердің құпиялылығын сақтау жөніндегі компанияның аргументін нығайтуға мүмкіндік береді. Creative Strategies компаниясының бас талдаушысы Каролина Миланези мұндай — ықшам әрі қуатты AI модельдері — Apple-ға iPhone-ға көбірек ресурс қажет ететін функцияларды енгізуге мүмкіндік беретінін атап өтті — мысалы, видео генерациялау немесе сезімтал жеке деректерді өңдейтін денсаулықты бақылау құралдары.

«Құрылғыда мүмкіндіктер неғұрлым көп болса, соғұрлым жақсы», – деді ол.

The Information бұған дейін PrismML технологиясын «жаңалық» деп атап, стартап өкілдеріне сілтеген еді: PrismML өз дамуын «iPhone-да іске қосылған ең ірі жасанды интеллект моделі» деп сипаттады. CNBC-ге берген сұхбатында Хассиби бұл технологияның жасанды интеллект моделіндегі деректерді сақтауды түбегейлі жеңілдетуге негізделгенін түсіндірді: әрбір мән 16 биттен бір немесе үш мүмкін мәнге дейін қысқартылады. Бұл AI моделін сақтау және іске қосу үшін қажетті жад көлемін айтарлықтай азайтады. Жалпы алғанда, сығылған модельдер 10–15 есе аз жадты пайдаланады, PrismML мәліметі бойынша, сығылған модельдер қазіргі аппараттық құралдарда жұмыс істейтін нейрондық желілердің дәстүрлі нұсқаларына қарағанда 10–15 есе аз жадты пайдаланып, жауаптарды 6–8 есе жылдам жасап, 3–6 есе аз энергия тұтынады.

Дегенмен, Хассиби мойындағандай, кемшіліктері бар: сығылған жасанды интеллект модельдері әдетте жалпы өнімділік бойынша бірнеше пайыздық пунктке төмендейді. Фактілерді қайта өндірудегі дәлдік ең алдымен зардап шегеді, ал пайымдау қабілеттері, математикалық есептеулер жүргізу және бағдарламалау дағдылары жақсырақ сақталады.

CNBC мәліметі бойынша, PrismML модельдің екі жеңіл нұсқасын тегін шығарды. Олар стандартты құрылғыларда, соның ішінде iPhone, MacBook және Nvidia графикалық карталары бар PC-лерде жұмыс істеуге арналған.

PrismML 2025 жылы құрылды. CNBC-ның түсіндіруінше, оның технологиясы Калифорния технологиялық институтындағы Хассиби зерттеу тобынан шыққан. Дамудың негізін құрайтын патенттер Хассибидің атында және ол PrismML-ге оларды пайдалануға эксклюзивті лицензия береді. Наурыз айында компания венчурлық капитал фирмасы Khosla Ventures және басқа инвесторлардың қолдауымен өткен бастапқы қаржыландыру раундында 16,25 миллион доллар жинады.

Asymco зерттеу фирмасының негізін қалаушы Хорас Дедиу Apple компаниясы Siri-пен күнделікті көптеген өзара әрекеттестіктерді құрылғыда сақтап, ең көп ресурс қажет ететін тапсырмаларды бұлтқа жіберуге тырысатынын атап өтті. Оның пікірінше, сығылған нейрондық желілерді қолданудың артықшылығы тек аз жадты пайдалануда ғана емес, сонымен бірге сол физикалық шектеулер шеңберінде қуаттырақ модельді сыйдыра алу мүмкіндігінде. «Олар [Apple] құрылғыға қаншалықты үлкен және қаншалықты «ақылды» модель сыйдыра алатынын анықтауға тырысуда», – деді Дедиу ( CNBC-ға сілтеме жасап).

Дегенмен, PrismML-дің мәлімдемелері бақылаулы демонстрациялардан тыс растауды қажет етеді, – дейді Counterpoint Research компаниясының зерттеу директоры Тараун Патак: «Нағыз сынақ – миллиондаған сұраулар, әртүрлі құрылғылардың мыңдаған комбинациясы және кәсіпорын деңгейіндегі жан-жақты сынақтар болады», – деді ол.

Мұндай жасанды интеллект модельдері — жиі қолдануға жеткілікті қуатты және агент тәрізді тапсырмаларды фондық режимде үздіксіз орындауға қабілетті, — деді IDC-нің клиенттік процессорларды зерттеу бөлімінің басшысы Фил Солис. Ол мұндай нейрондық желіні пайдалану телефонның батареясын тезірек таусылуына әкелуі мүмкін деп есептейді, тіпті ол аз жадты қажет етсе де.

DA Davidson компаниясының талдаушысы Гил Лурия жеке құрылғыларда жасанды интеллект модельдерін іске қосу ортақ деректер орталығы инфрақұрылымын пайдалануға қарағанда тиімсіз болуы мүмкін екенін айтты: ол ұялы телефондағы чиптердің көп уақыт бойы жұмыссыз қалуы мүмкін екенін атап өтті. Сонымен қатар, сарапшы AI модельдерін сығу дерек орталықтарынан смартфондар мен басқа құрылғыларға айтарлықтай көп чиптерді ауыстыруға әкелуі мүмкін екенін, бірақ бұл процессорлар мен жад чиптеріне деген қажеттілікті толық жоймауын айтады: «Чип қажет болмайды деген сөз емес. «Сізге әлі де графикалық процессор бірлігі мен жад қажет болады», – деді Лурия.