$100 миллион қауіпсіздік шараларына: неге Anthropic Claude Mythos-ты шығармайды
Киберқылмыскерлер келесі буын модельдерді банк, денсаулық сақтау, логистика, энергетика және көлік салаларындағы маңызды жүйелерді басқаратын бағдарламалық қамтамасыз етуге шабуыл жасау үшін пайдалануы мүмкін қауіп бар. Фото: Kevin Ku / Unsplash.com
Өткен сейсенбіде Anthropic компаниясындағы бір «жақсы адамдар» әлемдегі күштер тепе-теңдігін өзгерткендей болды. Олар сирек кездесетін әдемі көбелекті «бостандыққа жіберді». Оның ғылыми атауы — Greta Oro, ал халық арасында оны қанаттарының мөлдірлігі үшін «Шынықанат» деп атайды. Біреу бұл атауды кездейсоқ таңдамаған сияқты. Anthropic-та осы «Шынықанаттың» атымен жүз миллион долларлық аса маңызды жоба іске қосылған. Бұл туралы Holon Institute of Technology зерттеушісі, The AI Pravda авторы Микаэл Горский жазады.
Не болды?
Anthropic өздерінің жаңа моделі — Claude Mythos Preview-ді дайындау кезінде күтпеген нәрсеге тап болды. Бұл модель өте дарынды «хакер» болып шықты. Ол бұрын-соңды болмаған жылдамдықпен және дәлдікпен кодтағы әлсіз тұстарды тауып, пайдалана алады. Модельдің қабілеті, мінезі мен шектеулері 245 беттік арнайы құжатта сипатталған.
Оның қуаты соншалықты әсерлі болғандықтан, компания оны ашық түрде жарияламауды шешкен. Оның орнына тек пресс-релиз шығарылып, модельдің жетістіктері сипатталған. Әдеттегідей, онда түрлі рейтингтер мен жоғары нәтижелер көрсетілген, бірақ мұндай сандар әрдайым толық шындықты бере бермейді.
Сонымен қатар, Claude Mythos қауіпсіздік аудиторы ретінде де ерекше нәтижелер көрсеткен:
— танымал операциялық жүйелер мен браузерлерден бұрын белгісіз болған мыңдаған осалдықты анықтаған;
— OpenBSD жүйесінде 27 жыл бойы байқалмаған маңызды ақауды тапқан, ол кез келген сервердің жұмысын тоқтатуға мүмкіндік берген;
— Linux ядросындағы қателер тізбегін анықтап, жүйеге толық қол жеткізуге жол ашқан (кейін бұл ақау түзетілген).
Яғни, көптен айтылып жүрген кезең келді: жаңа буындағы AI модельдер соншалықты қуатты, оларды зиянды мақсатта қолдану нақты қауіпке айналып отыр.
Anthropic бұл жағдайға алаңдап, арнайы видео жариялады. Онда Microsoft, Linux Foundation, CrowdStrike, Palo Alto Networks сияқты ұйымдардың өкілдері сөз сөйлеп, жаңа буындағы модельдер банк жүйелері, медицина, энергетика, логистика секілді маңызды салаларға қауіп төндіруі мүмкін екенін айтты.
Сонымен қатар, компания $100 млн көлемінде жоба іске қосты. Оған шамамен 50 ірі IT компания қатысады. Оларға Claude Mythos-қа эксклюзивті қолжетімділік беріліп, осы модельдің көмегімен осалдықтарды алдын ала анықтап, түзету ұсынылған.
Open source қауымдастығы да назардан тыс қалмады, бірақ оларға тек $4 млн көлемінде ресурстар бөлінген. Айта кету керек, модельді пайдалану өте қымбат.
Мемлекеттік органдар бұл технологияға қол жеткізе ме, жоқ па — нақты айтылмаған. Бірақ АҚШ билігі киберқауіпсіздік мәселесіне алаңдаулы екені байқалады.
Бірінші қорытынды
Бүгінде кибершабуылдардың алдын алу немесе керісінше мүмкіндік беру — орасан зор билік. Кей жағдайда бұл билік мемлекет басшыларынан да жоғары болуы мүмкін. Яғни, ірі AI компаниялар әлемдегі ықпалы ең күшті ойыншыларға айналып келеді.
Екінші қорытынды
Open source модельдер алдыңғы қатарлы зертханалардан шамамен 9–12 айға артта келеді. Бірақ уақыт өте бұл айырмашылық қысқарады. Бір-екі жыл ішінде мұндай деңгейдегі технологиялар ашық қолжетімді болуы әбден мүмкін.
Үшінші қорытынды
Claude Mythos алдымен көптеген осалдықтарды жойып, кейін жаңа буындағы модельдерді жасауға кірісуі мүмкін. Бұл АҚШ-тың AI саласындағы көшбасшылығын одан әрі күшейтеді.
Төртінші қорытынды
Егер балаңыз киберқауіпсіздік курсына бару ма, әлде шығармашылық үйірмеге қатысу ма деп ойланып жүрсе — таңдау өзгеруі мүмкін. Болашақта техникалық жұмыстың бір бөлігін машиналар атқарады, ал адамдарға креатив пен ойлау қабілеті көбірек керек болады.
