«Жын бөтелкеден шықты»: AI-ды баяулату тәуекелдерді жоймайды, – дейді CrowdStrike компаниясының бас директоры.

Деректер қауіпсіздігі бағдарламалық жасақтамасын әзірлеуші CrowdStrike компаниясының басшысы Джордж Курц CNBC-ге нейрондық желілерді дамыту қарқынының бәсеңдеуі тәуекелдерді жоймайтынын айтты: қауіпті болуы мүмкін жасанды интеллект модельдері қазірдің өзінде кең ауқымды пайдаланушыларға қолжетімді. «Жын бөтелкеден шықты», – деді ол.

Телеарнада сөз сөйлегенде Курц Anthropic компаниясының бас директоры Дарио Амодейдің жасанды интеллектті дамытуды баяулату жөніндегі үндеуіне жауап берді. CrowdStrike компаниясының бас директорының айтуынша, киберқауіпсіздік провайдерлері әзірлеушілер жүйелерін қаншалықты жылдам жаңарту керектігін шешкенге дейін бұрыннан шығарылған модельдердің қауіпсіздігін қамтамасыз етуі тиіс.

Амодей өткен демалыс күндері ескерту жасады. 14 қыркүйек дүйсенбі күні CrowdStrike акциялары шамамен 14 пайызға өсіп, S&P 500 индексіндегі акциялар арасында ең жоғары өсім көрсетті: инвесторлар киберқауіпсіздік шешімдеріне сұраныстың артуына бәс тігіп отыр, – деп түсіндіреді CNBC.

Нейрондық желі агенттері белгіленген мінез-құлық үлгісінен ауытқып, қауіпсіздік шараларын айналып өтуі мүмкін. Сондықтан қауіпсіздікті тек модельді оқыту арқылы қамтамасыз ету мүмкін емес — CrowdStrike басшысының айтуынша, агент жұмыс істеп тұрған кезде оның нақты әрекеттерін бақылау қажет.

Автономды жасанды интеллект агенттеріне қарсы тұру үшін, деді ол, ұқсас немесе одан да жоғары деңгейдегі жасанды интеллект жүйелері қажет. Алайда АҚШ Қытайдан сәл ғана озып тұр, ал мемлекеттің жасанды интеллект саласын реттеуге бағытталған әрекеттері «инновацияны тұншықтыруы» мүмкін екенін ол ескертті.

*The Australian* басылымының хабарлауынша, ірі австралиялық деректер орталығының иесі Беван Слэттери де жасанды интеллектіні баяулату жөніндегі үндеулерге күдікпен қарады. «Біз джинді қайтадан бөтелкеге салып қоя алмаймыз», – деді ол 14 қыркүйекте инвесторлар конференциясында. «Anthropic, Илон [Маск] және [OpenAI-дың бас директоры] Сэм Альтман бәріміз біраз бәсеңдетуіміз керек деді. Бірақ бұл тек ... шыққанға дейін ғана созылады [Қытайдың озық нейрондық желілерінің келесі нұсқалары] — Kimi K4, Kimi K3.5 немесе оған ұқсас. Сондықтан менің ойымша, бұл салада бізді үнемі «қару жарысы» күтіп тұр», — деді кәсіпкер.

Anthropic компаниясының бас атқарушы директорының жасанды интеллектіні дамытуды баяулату жөніндегі үндеуі дерек орталығы жабдықтарын жеткізушілердің акцияларын сатуға әкеліп, ал киберқауіпсіздік компанияларының акциялары күрт өсті. 14 қыркүйектегі саудада CrowdStrike акциялары 14%-ға, Palo Alto Networks акциялары 13%-ға, ал Zscaler мен SailPoint акциялары әрқайсысы 16%-ға өсті. Жыл басынан бері алғашқы екі компанияның акция бағалары екі есе өсті, деп хабарлайды CNBC.

Evercore ISI талдаушысы Кирк Мэтер компаниялардың жасанды интеллект агенттерін қаншалықты жылдам енгізетініне қарамастан, «осы агенттерді әлі де қорғау, басқару және бақылау қажет» деп есептейді. Оның айтуынша, жаңа модельдерді оқыту баяуласа да, бұл қажеттілік киберқауіпсіздік шараларына сұранысты сақтайды, деп хабарлайды MarketWatch.

Саладағы компаниялар арасында Матерн Palo Alto Networks пен CrowdStrike-ты бөліп көрсетті: олар киберқауіпсіздікке жұмсалатын шығындардың артуынан пайда табуға әлі де ең жақсы мүмкіндікке ие. Аналитик олардың артықшылығын қауіпті бақылау мен оған жауап беруді біріктіру қабілетіне байланыстырады.

Бұлтты алпауыт компаниялар Microsoft, Amazon және Google да жасанды интеллект қауіпсіздігі саласында көшбасшылыққа таласа алатын мықты бәсекелестерге айналуы мүмкін, деп D.A. Davidson компаниясының басқарушы директоры Гил Лурия клиенттеріне жазды. MarketWatch мәліметіне сәйкес, оның пікірінше, олардың ірі тұтынушы базасы мұндай мүмкіндікті нығайтады.