БастыReview
Бөлісу

Аса қауіпті: Anthropic пен OpenAI-дың жаңа суперкүшті жасанды интеллект жүйелерінен не күтуге болады

Роман Кутузов

Роман Кутузов

Oninvest шолушысы, технологиялар
Рұқсатсыз пайдаланушылар Mythos жүйесіне рұқсатсыз кірді — Дереккөзі: Bloomberg / Фото: Kevin Horvat / Unsplash

Рұқсатсыз пайдаланушылар Mythos жүйесіне рұқсатсыз кірді — Дереккөзі: Bloomberg / Фото: Kevin Horvat / Unsplash

2026 жылдың сәуір айының басында Anthropic компаниясы Mythos Preview атты жаңа жасанды интеллект моделін әзірлегенін жариялады, ол соншалықты қуатты әрі қауіпті болғандықтан оны көпшілікке шығаруға болмайтынын айтты. Бір аптадан кейін бәсекелес OpenAI өзінің «барлығына тым қауіпті» деп сипатталған моделін таныстырды. Біз шынымен жаңа дәуірдің табалдырығында тұрмыз ба, әлде бұл – бұрын хабарланғандай, биыл IPO өткізуді жоспарлап отырған екі компания үшін жұртшылықты алдын ала «қыздырып» қоюдың шебер тәсілі ғана ма?

Қашып кеткен модель

AI-дың өзі емес, Anthropic компаниясы оның жайлы 250 беттік мақала жариялады, сондай-ақ маңызды кейіптегі, алаңдаулы жүздері бар адамдар мұндай жүйені көпшілікке шығармау керектігін түсіндіретін бейнежазбаны ұсынды.

Компания мәліметі бойынша, Mythos Preview барлық ірі операциялық жүйелер мен веб-шолғыштарда мыңдаған «zero-day» осалдықтарды анықтады. Бұл бұрын сарапшыларға белгісіз болған осалдықтар, сондықтан шабуылдаушы оларды бірінші болып тапса, ең қауіпті болуы мүмкін. 27 жыл бойы байқалмай келген ең көне «нөлдік күн» қателігі OpenBSD жүйесінде жасанды интеллект арқылы анықталды — бұл жүйе өзінің жоғары қауіпсіздігімен танымал. Бұл осалдық (қазіргі уақытта түзетілген) шабуылдаушыға осы операциялық жүйені іске қосқан кез келген машинаны тек қосылу арқылы қашықтан өшіруге мүмкіндік берді.

Модель сондай-ақ әлемдегі серверлердің көпшілігі жұмыс істейтін Linux ядросындағы бірнеше осалдықты өз бетінше анықтап, оларды өзара байланыстырып, стандартты пайдаланушы рұқсатынан машинаны толық бақылауға дейін өтуге мүмкіндік берді.

Одан да қызығы, мақалада Mythos моделін модельдерді сынау үшін қолданылатын цифрлық «қамау аймағынан» — яғни «sandbox»-тан — қашуға тырысқан бір жағдай сипатталады. Нәтижесінде модельмен жұмыс істеп жатқан Anthropic компаниясының бір қызметкері саябақта бейбіт түрде сэндвич жеп отырған кезде жасанды интеллекттен «қашудың» сәтті болғаны туралы электрондық хат алды. Сонымен қатар, модель кең интернетке шығып, бірнеше веб-сайттарда тапқан осалдықтар туралы ақпарат жариялады, ал мұны ешкім одан сұрамаған болатын.

Anthropic модельді хакер болуға жаттықтырмағанын, оның таңғажайып қабілеттері бағдарламалауға бағытталған жалпы дамудың нәтижесі екенін алға тартады. Бұл, бәлкім, өзінше логикалық: ең мықты бағдарламашы қара жаққа ауысса, ең мықты хакерге айналады. Немесе «ақ қалпақты хакер» — компаниялардың өз сұрауы бойынша бағдарламаларын ақыға тексеретін хакерлердің бірі. Шындығында, дәл осыны Mythos-тан орындау сұралған.

Anthropic Project Glasswing жобасын іске қосты — бұл Microsoft, Apple, Amazon, Google, CrowdStrike, JPMorgan Chase және басқа да шамамен 40 ұйымнан тұратын коалиция, оларға Mythos жүйесіне алдын ала осалдықтарды іздеу және қауіпсіздік шараларын әзірлеу үшін қолжетімділік берілді. Хабарланғандай, барлық қатысушылар мұқият таңдалды.

22 сәуірде Bloomberg дереккөзі жеке онлайн форумның рұқсатсыз пайдаланушылары модельге рұқсатсыз қол жеткізгенін хабарлады. Anthropic бұл хабарламаны тексеріп жатыр.

Бұл дәл сол күні болды, сол күні Anthropic Mythos-қа тек таңдаулы бірнеше адамға ғана қолжетімділік беру жоспарын жариялады.

Хакердің арманы

Шын мәнінде модельдің қалай жұмыс істейтінін аз адам көргенімен, Anthropic нарыққа айқын әсер етті — хабарландырудан кейінгі күні ірі бағдарламалық қамтамасыз ету компаниялары мен киберқауіпсіздік фирмаларының акцияларытағы да төмендеді.

OpenAI бәсекелесіне жауап беруден басқа амал таппады, бірақ Spud деген код атымен аталатын оның жаңа аса қуатты моделі әлі дайын емес. Сэм Альтманның компаниясы өзінің қазіргі флагмандық GPT-5.4 моделінде хакерлік шабуылдар мен осалдықтарды сканерлеуге қойылған ішкі шектеулерді жеңілдетіп, нәтижесін GPT-5.4-Cyber деп атады. Айтылғандай, ол бағдарламаны коммерциялық таралымдағы нұсқасында алып, бастапқы кодын кері инженерлеу арқылы талдап, одан кейін ондағы «тесіктерді» тексере алады. Бұл хакердің арманы сияқты.

Осы себепті GPT-5.4-Cyber-ге қол жеткізу де еркін болмайды — өтінімдер ұйымдардан, сондай-ақ «мемлекеттік берілген жеке куәлік» және қосымша тексерулер арқылы өздерін растауға дайын жеке тұлғалардан қабылданады.

Шын мәнінде, компаниялар қазір нарықтағы ең табысты сегмент – корпоративтік пайдаланушылар – үшін бәсекелесіп жатыр. Бұл секторға Anthropic басынан бері назар аударса, OpenAI осы жылдың басында ғана оған шын мәнінде көңіл бөле бастады. Тіпті соңғысы ойын-сауық мақсатында қысқа жасанды интеллект видеоларын шығаратын Sora жобасын жапты, бұл, мүмкін, табысты төлемді клиенттерге ресурстарды босату үшін жасалған.

Рейтер агенттігінің мәліметі бойынша, OpenAI аптасына 900 миллион қолданушымен даусыз көшбасшы, бірақ олардың 95%-ы токендерді (ЖИ өңдеу бірліктерін) тегін күйдіріп, тек мемдер мен шығындар тауынан басқа ештеңе жасамайды. Ал Anthropic компаниясы жылдық табысын 30 миллиард доллар деп мәлімдеді, ал OpenAI-дің соңғы бағалауы айына 2 миллиард доллар, яғни жылына 24 миллиард долларды құрайды. Алайда аудиттелген қаржылық есеп-қисап болмағандықтан мұндай көрсеткіштерді салыстыру қиын. Ал оларды жақын арада көруіміз мүмкін, себебі екі компания да биыл IPO өткізуді жоспарлап отыр.

Бірмүйізділер шайқасы

Алғашқы жария ұсыныстар эпикалық болмақ. Crunchbase-тің «Unicorn Ranking» рейтингісіне сәйкес, қазіргі уақытта OpenAI әлемдегі ең құнды стартап болып табылады, оның бағасы 852 миллиард долларды құрайды, ал Anthropic 380 миллиард доллармен төртінші орында тұр.

Мұндай пласмаменттер әдетте БАҚ-тағы үлкен шумен бірге жүреді — бұл жасанды интеллект туралы қызу талқыланып жатқан тақырыпқа екі есе дәл келеді — сондықтан күдіктер табиғи түрде туындады.

Өз ақпараттық бюллетенінде әйгілі технологиялық блогер Алекс Кантрович «ең қауіпті жасанды интеллекттер» деген тіркес жай ғана «ең қуатты» дегенді айтудың жаңа тәсіліне айналған жоқ па деп сұрайды.

Танымал инвестор Марк Андриссеннің айтуынша, Anthropic шығарылымды қауіпсіздік себептерімен емес, жай ғана қоғамдық қолжетімділікті қамтамасыз етуге қажетті мүмкіндігінің болмауынан кейінге қалдырып отыр.

Ең болмағанда билік органдары бұл мәселені байыпты қабылдап жатқандай көрінеді. Anthropic компаниясының жаңа жасанды интеллектісі Ақ үйде талқылануда; АҚШ Қаржы министрі мен Федералдық резерв жүйесінің төрағасы модельдің туғызатын тәуекелдерін талқылау үшін банк бас директорларымен кездесті; сондай-ақ Reuters мәліметі бойынша Ұлыбритания мен Еуропалық Одақтағы реттеушілер де бұл мәселеге алаңдайды.

Сарапшылар не дейді

Британдық Жасанды Интеллект Қауіпсіздік Институты Mythos моделін 32 қадамдық «The Last Ones» сынағын – корпоративтік желіге шабуылдың бастапқы барлаудан толық бақылауға алуға дейінгі бүкіл үдерісті қамтитын симуляцияны – 10 талпыныстың 3-інде сәтті аяқтаған алғашқы модель екенін растады. Адамға мұны орындауға шамамен 20 сағат қажет болар еді. Алайда олар бұл тек симуляция екенін және осы нәтижелерді жасанды интеллекттің шынайы, жақсы қорғалған корпоративтік желіні дабылсыз бұзып кіре алатынын бағалау үшін пайдалануға болмайтынын атап өтті.

Израильдің 8200-ші кибербөлімшесінің бұрынғы мүшесі әрі қазір Buzz компаниясының бас директоры Яир Сабан Bloomberg- ке айтты, командаға алты инженерден тұратын топ өздерінің жасанды интеллект негізіндегі хакерлік құралын әзірлеуге үш апта кеткенін. Оның айтуынша, мұндай шешімдер жақын арада үкіметтік мекемелер мен қылмыстық топтар арасында да пайда болуы мүмкін.

Контраст Сикиурити компаниясының ақпараттық қауіпсіздік жөніндегі директоры Дэвид Линднер Fortune журналына Mythos кең ауқымды мәселелерді анықтауға көмектесе алса да, бұл ең маңыздысы емес екенін айтты.

Бізде осалдықтарды анықтауда ешқашан қиындық болған емес. Біз оларды күн сайын табамыз. Шындығында, біз жөндемеген көптеген осалдықтар жиналып қалды. Сондықтан мен мұндай жасанды интеллект жүйелерінің пайда болуы ештеңені өзгертпейді деп ойлаймын.

Дэвид Линднер

Contrast Security компаниясының ақпараттық қауіпсіздік бөлімінің басшысы

Сонымен қатар, ол Mythos-қа қолжетімділікті шектеу мәселені шешпейді деп есептейді — қытайлар бес-алты айдың ішінде ұқсас жасанды интеллект жүйелерін әзірлеп шығарады, ал бір-екі жылдың ішінде осы типтегі ашық бастапқы кодты (жария қолжетімді) модельдер пайда болады.

Әсіресе, Anthropic компаниясы киберқауіпсіздік тұрғысынан әлі де мінсіз емес. Шындығында, әлем Mythos жөнінде алғаш рет наурыз айының соңында болған деректер ағып кетуі арқасында білді, ал сәуірдің басында адам қателігі салдарынан олардың Claude Code атты AI агентінің 500 000-нан астам жолдық коды интернетке тарады, оны әуесқойлар дереу желіде жариялады. X әлеуметтік желісіндегі жарияланымда жарияланған кодқа сілтеме берілген, ол 29 миллионнан астам қаралым жинады.

Aisle Mythos-тың кішігірім, арзан ашық бастапқы кодты модельдердегі көптеген нәтижелерін, соның ішінде OpenBSD-дегі сол осалдықты анықтағанын қайталап көрсеткенін мәлімдеді.

Жалпы алғанда, инвесторлар қиын таңдау алдында тұр. Екінші жағынан, жасанды интеллект бір уақытта пайдалы, қауіпті және табысты болатын адамзаттың алғашқы өнері емес. Динамиттің өнерінің тарихын еске алсақ жеткілікті.

Бөлісу

Басты бет

Сатып алу
Сату
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
Small Caps
Review
Қаржы және инвестиция жаңалықтары