Anthropic: Жасанды интеллект модельдері бірнеше айдың ішінде тұрмыстық техникада өзін-өзі көбейтуді үйренеді

Шағын жасанды интеллект модельдері AI әзірлеушісі Anthropic ескерткендей, олардың өздерін қайта көбейтуді үйренуге дейін небәрі бірнеше ай ғана қалды, олар арзан қосылған құрылғыдан құрылғыға – ақылды пештерден атаусыз теледидар декодерлеріне дейін секіріп жүреді. Егер олар осы уақытқа дейінгідей қарқынмен дами берсе, жыл соңына қарай қажетті деңгейге жетеді және оларға тіпті деректер орталықтары да қажет болмайды: Эксперимент барысында Anthropic компаниясы әрқайсысы 55 доллар тұратын 15 телеприставкада «таңқаларлықтай қуатты» модельді іске қосуға қол жеткізді.

Anthropic – бұл бағдарламалық жасақтама, ол өзінің AI үлгісін бір есептеу құрылғысынан екіншісіне көшіріп, бұзылған құрылғыда «AI құрт» ретінде тікелей іске қосады. Теледидарға қосылатын арналар декодерлері Google-дың Gemma4-26B-A4B үлгісін іске қосып тұрған. Anthropic оны шағын модель деп жіктейді, яғни параметрлері 30 миллиардтан аспайтын модель: Gemma-ның параметрлері 26 миллиард. OpenAI 2020 жылы таныстырған GPT-3-тің параметрлері 175 миллиард болған.

Зертханалық сынақтарда тек GLM-5.2 негізіндегі құрт бүкіл оқиғалар тізбегін аяқтай алды — желідегі жұқтырылмаған құрылғыны тауып, оған өзін көшіріп, іске қосып, әрі қарай таралу — себебі GLM-5.2 жұқтырылған машиналар үшін тым үлкен, сондықтан ол бөлек серверде жұмыс істеді. Сонымен қатар, сынақта осы машиналарға кіру үшін ешқандай аутентификация қажет болмады, сондықтан Anthropic нақты желіде де нәтиже жақсармайтынын болжайды. «Әзірге бақылаудан шығып, өздігінен көбейе алатын толыққанды репликатор жоқ, бірақ агенттер өзін-өзі көшіру тізбегіндегі жеке қадамдарды орындауда (және өз жетістіктерін жаңа көшірмелерге беруде) барған сайын шеберлене түсуде», – деді Anthropic.

Goldman Sachs бақылайтын киберқауіпсіздік компанияларының акциялар себеті сәуірдегі ең төменгі көрсеткіштен 20 қыркүйекке дейінгі аралықта құны екі еседен астам өсті: Инвесторлар сол кезде Bloomberg хабарлағандай, жетілдірілген жасанды интеллект модельдерінің туғызатын қауіптері салаға пайда әкеледі деп күтеді. Осы кезеңде киберқауіпсіздік провайдерлері CrowdStrike, Palo Alto Networks және Fortinet акциялары 130 пайыздан астамға өсті.

JPMorgan-ның Брайан Эссекс мәлімдеуінше, жасанды интеллект үш жыл ішінде қосымша 430 миллиард доллардан астам киберқауіпсіздік шығындарын тудыруы мүмкін, және нейрондық желілердің дамуын «баяулату» әрекеттеріне қарамастан қорғанысқа деген сұраныс сақталады. Дегенмен, AI құртты анықтау мүлдем мүмкін, деп ескертеді Anthropic: егер ол ақылды құрылғыларға тарала бастаса, интернет-провайдерлердің мониторинг жүйелері аномальды трафикті анықтайды. «Біз осындай көшіргіштердің таралуын қиындату үшін жүйелерімізді нығайтуға ұмтылуымыз керек, бірақ олар мәңгі қалатын әлемге де дайындалуымыз қажет», – деп түйіндеді AI алып компаниясы.

Арзан set-top қораптардағы ботнеттер бүгін де бар, алайда оларда жасанды интеллект жоқ, және инвесторлар олардың құрбанына айналды. Маусым айында бірнеше компанияның зерттеушілері жарнама алаяқтығы мен аккаунттарды басып алу үшін қолданылатын зақымдалған құрылғылар желісі Popa ботнетін Израильдік Alarum Technologies компаниясы басқаратын NetNut-пен байланыстыратынын Krebs on Security сайты хабарлады. 2 шілдеде Reuters агенттігі Google компаниясының NetNut есепшоттары мен қызметтерін тоқтатқанын хабарлады, ал сол күні Nasdaq биржасындағы Alarum акцияларының бағасы күрт төмендеді. Alarum өз кезегінде зерттеушілердің қорытындыларымен келіспейді: компания оларды «дәлсіз және қате» деп сипаттап, NetNut-ты «заңды коммерциялық прокси-желі» деп атайды.

Қыркүйекте Anthropic компаниясының бас директоры Дарио Амодеи өнеркәсіпті озық модельдерді дамытуды баяулатуға шақырып, 6–12 айдың ішінде агенттер легі «бүкіл интернетті басып алуға қабілетті болуы мүмкін» деп ескертті, «The Big Short» фильміндегі инвестор Майкл Берри мұндай мәлімдемелерді жасанды интеллект компанияларына өздеріне пайдалы деп санады: «IPO үшін хайп пен өзін-өзі жарнамалау қажет». Reuters көрген компанияның IPO проспектісінде 261 беттің 80-і тәуекел факторларына арналған. Bloomberg мәліметінше, Anthropic қараша айының ортасында жария акцияға шығады.

Өткен жексенбі, 11 қазанда хакерлер жүздеген француз супермаркеттерінің тоңазытқыш жүйелерін өшіріп тастады. Шабуылдаушылар салқындату жүйелеріне кіріп, еріту режимін іске қосып, тоңазытқыштар мен мұздатқыштардағы температура шамамен алты сағат бойы 50 градусқа дейін көтерілуіне себеп болды. Дүкендер бұзылған етті, көкөністерді және мұздатылған тағамдарды тастауға мәжбүр болды.

Кибершабуылдың артында кім тұрғаны әлі белгісіз. Bloomberg атап өткендей, хакерлер енді тек мәлімет ұрлауға немесе ақша бопсалауға ғана емес, жабдық пен техникалық процестерді басқаратын жүйелердің жұмысына кедергі келтіруге де барынша ұмтылуда. Агенттік АҚШ-тағы сумен жабдықтау жүйелері мен мұнай-газ танкерлері бұған дейін де ұқсас шабуылдардың нысанасына айналғанын атап өтті.