OpenAI модельдері екінші компанияны бұзып кірді: салдары қандай болады?

OpenAI-дың жасанды интеллект модельдері тағы бір үшінші тарап компаниясының хакерлік шабуылына қатысы бар деп күдікке ілінді. Нью-Йорктегі Modal Labs компаниясының техникалық директоры Акшат Бубна Reuters агенттігіне және басқа да БАҚ -қа растады. Осы айдың басында нейрондық желілерді құруға арналған ашық платформа Hugging Face жүйесіне OpenAI агенті заңсыз кірген кезде компанияның бір клиентінің IT ресурстары бұзылғаны анықталды. Бұл енді OpenAI агентінің әрекеттерінен зардап шеккен екінші компания: шілде айының басында ол бақылаудан шығып, оқшауланған ортасынан қашып, сыртқы жүйелерге қол жеткізді.

Modal-дың бір клиенті өз кодын оның инфрақұрылымына орналастырып, интерфейсті тегін қолжетімді етті. Осылайша кез келген интернет қолданушысы клиенттің «құм шеңберлерінде» (оқшауланған ортада) код іске қоса алатын — дәл осы мүмкіндікті OpenAI агенті пайдаланды, — деп түсіндірді Бубна. Оның айтуынша, әлсіздік Modal платформасында емес, клиенттің кодында болған: оның инфрақұрылымы бұзылмаған. Axios дереккөзі не сәйкес, бұзылған IT ресурс CyberGym жобасына байланысты — дәл сол жоба ExploitGym тестін жасаған, оның тапсырмаларын AI агенті орындауға міндеттелген.

Оқиға OpenAI үшін аса сезімтал уақытта орын алды: Axios мәліметі бойынша, компания хакерлік шабуылдың нысанасы болған ең қуатты моделін жария түрде шығаруға АҚШ үкіметінен рұқсат сұрап отыр. Осы аптада OpenAI компаниясының бас директоры Альтман Вашингтонда. Politico мәліметі бойынша, ол АҚШ Қаржы министрі Скотт Бессентпен, АҚШ Сауда министрі Говард Латникпен және сенаторлармен кездесуді жоспарлап отыр.

28 шілдеде Альтман Invest Like a Beast подкастында Hugging Face-ке жасалған шабуыл OpenAI-ды модельдерді оқытуды тоқтатуға мәжбүр еткенін айтты. «Жасанды интеллекттің дамуын бәсеңдетуге тура келуі мүмкін, қоғамға осындай жаңа мүмкіндіктері бар жүйелерге дайындалуға жеткілікті уақыт беру үшін», – деді ол.

Сала мамандары дамуды баяулатуды талап етіп отыр. 1 100-ден астам сарапшы, соның ішінде OpenAI-дың бас ғалым-маманы Якуб Пачоцки мен Anthropic компаниясының негізін қалаушылардың бірі Джаред Каплан, ашық хатқа қол қойып, АҚШ үкіметін автоматтандырылған жасанды интеллект жүйелерінің даму қарқынын реттеуге мүмкіндік беретін «техникалық және басқарушылық құралдарды» әзірлеу жөніндегі халықаралық күш-жігерді қолдауға шақырды.

27 шілдеде Nvidia Microsoft, SpaceX, Palantir және ондаған басқа технологиялық компаниялармен бірге жасанды интеллект пен киберқауіпсіздікті қамтамасыз етуге арналған құралдарды әзірлеу және таратуға бағытталған альянс құрылғанын жариялады. Бұл бастама OpenAI моделінің Hugging Face-ке жасаған кибершабуылынан кейін пайда болды.