Nvidia OpenAI жасаған кездейсоқ хакерлік шабуылдан кейін жасанды интеллект қауіпсіздігі альянсын құрды.

Nvidia, Microsoft, SpaceX, Palantir және ондаған басқа технологиялық компаниялар жасанды интеллект пен киберқауіпсіздікті қамтамасыз етуге арналған құралдарды әзірлеу және таратуға бағытталған альянс құрылғанын жариялады. Бұл бастама нейрондық желілерді құруға арналған ашық бастапқы кодты платформа Hugging Face-ке OpenAI моделінің кездейсоқ жасаған кибершабуылынан кейін пайда болды, сол кезде стартап өзін-өзі қорғау үшін қытайлық жасанды интеллект моделін қолдануға мәжбүр болды.

Жасанды интеллект, бұлттық есептеу, киберқауіпсіздік, кәсіпорын бағдарламалық қамтамасыз ету және ашық бастапқы кодты бағдарламалық қамтамасыз ету салаларындағы 37 жетекші компания жалпы қолданбаға арналған технологиялар мен құралдарды бірлесіп әзірлеу, жасанды интеллект пен киберқауіпсіздікті қамтамасыз ету мақсатында альянс құруын жариялады. Одаққа Nvidia, Microsoft, SpaceX, Palantir, Adobe, CrowdStrike, Dell және АҚШ пен Еуропадан ондаған басқа технологиялық компаниялар кіреді. Одақ «Ашық Қауіпсіз ЖИ Альянсы» деп аталды.

«Жақында болған қауіпсіздік оқиғасы [нейрондық желілерді құруға арналған ашық бастапқы платформа] Hugging Face айқын ескерту болды: «киберқауіпсіздік мамандарына өзін-өзі қорғау үшін ашық, заманауи жасанды интеллект агент жүйелері қажет», – делінген Nvidia блогында жарияланған The Open Secure AI Alliance-тың бірлескен мәлімдемесінде.

Nvidia сондай-ақ одаққа жасанды интеллект агенті инфрақұрылымы (agent harness) саласындағы ашық бастапқы кодты модельдерді, салмақтарды, деректерді және зерттеулерді ұсынатынын мәлімдеді, соның ішінде GitHub-та қолжетімді жаңа ашық бастапқы кодты Nvidia Labs Object-Oriented Agent жобасы бар. Бұл шеңбер жүйелерге жасанды интеллект агенттерінің мінез-құлқын тиімдірек басқаруға көмектеседі, олардың әрекеттерін сынау, бақылау, тексеру және реттеу процестерін жеңілдетеді, – деп қосты компания.

Одақ Hugging Face-тағы бұзушылықтан кейін құрылды, оны абайсыз түрде OpenAI жасанды интеллект өнімі жасаған. Стартап инфрақұрылымын қорғау үшін АҚШ-тың ең озық жасанды интеллект модельдерін пайдалана алмады, себебі кіріктірілген қауіпсіздік механизмдері шабуылдаушы мен қорғаныс жақты ажырата алмады. Нәтижесінде компания ұқсас шектеулерге ұшырамаған ашық бастапқы коды бар қытайлық GLM 5.2 моделін енгізді.

Бұл бастама сондай-ақ Вашингтонда Қытайдың жасанды интеллект модельдеріне ықтимал шектеулер енгізу туралы талқылаулар күшейіп жатқан тұста жасалды. Өткен аптада АҚШ Қаржы министрі Скотт Бессент американдық компаниялар әзірлеген озық модельдерден білімді шығару әдісі – «дистилляцияны» қолданатын қытай компанияларына санкция салумен қорқытты.

АҚШ-тың Қытай модельдеріне шектеулер енгізуінің «нақты мүмкіндігі» бар: CNBC хабарлағандай, Сыртқы қатынастар жөніндегі кеңестің аға ғылыми қызметкері Крис МакГвайрдың айтуынша, бұл API арқылы токендерді сатып алуға және АҚШ бұлт провайдерлерінің мұндай модельдерді орналастыруына әсер етуі мүмкін. Дегенмен, сарапшы Вашингтондағы мәселе ашық және жабық модельдер арасындағы қақтығыс емес, керісінше қытай компанияларының зияткерлік меншікті ұрлады деген айыптауға қарсы күрес екенін атап өтті.

Сонымен бірге технология саласының өкілдері шектен тыс шектеулер ашық жасанды интеллекттің дамуына зиян келтіруі мүмкін екенін ескертеді. 24 шілдеде Nvidia, Microsoft, Meta, Palantir және тағы 20-дан астам компания АҚШ билігіне «мерзімінен бұрын шектеулер» енгізуден бас тартуды сұрап хат жолдады ашық салмақты модельдерге қатысты «мерзімінен бұрын шектеулер» енгізуден бас тартуды сұрады, себебі олардың пікірінше бұл бәсекелестікті әлсіретіп, инновациялардың АҚШ-тан тыс жерлерде дамуына әкелуі мүмкін.