«Бұрылыс нүктесі»: жасанды интеллект алғаш рет құпиялы бағдарлама шабуылын үйлестіріп жатқаны байқалды
Sysdig компаниясының киберқауіпсіздік зерттеушілері үлкен тілдік модельдің тәуелсіз түрде шымшымалық бағдарлама (ransomware) науқанын үйлестірген алғашқы құжатталған жағдайды анықтады. 6 шілдеде Sysdig Threat Research командасы «Jade Puffer» деп аталған шабуылдың анықталғанын хабарлады, онда AI моделі тек шабуылдаушыларға көмектесіп қана қоймай, зиянды бағдарламаға тән әрекеттер тізбегін автономды түрде орындады.
Sysdig компаниясының киберқауіп зерттеулері жөніндегі директоры Майкл Кларктің айтуынша, Джейд Паффер ешқандай түбегейлі жаңа хакерлік әдістер қолданбаған. Алайда, барлық жұмысты жасанды интеллект атқарды: ол серверді AI қызметтеріне кіру кілттері, бұлттық тіркелгі деректері мен криптовалюта әмияндары үшін сканерлеп, содан кейін бопсалама хатын жасады.
Зерттеушілер шабуылды оның сипаттамалық ерекшеліктеріне сүйене отырып, жасанды интеллект қолданылғанымен байланыстыра алды. Атап айтқанда, зиянды кодта әр әрекеттің мақсатын түсіндіретін көптеген түсініктемелер болған, бұл жасанды интеллект жасаған кодтың типтік белгісі болып саналады. Jade Puffer-дің тағы бір ерекшелігі – өз қателіктерін түзете алу қабілеті болды. Шабуыл кезінде жасанды интеллект өз кодындағы ақауды анықтап, оны түзеп, 31 секундтан аз уақыт ішінде жұмысын жалғастырды.
Clark-тың пікірінше, басты қауіп шабуылдың күрделілігінде емес, шабуылдаушыларға қойылатын дағдылар талаптарының төмен болуында. Sysdig есебінде сарапшы жасанды интеллект агентін орналастыру шығындары мұндай операцияларды жүзеге асырудағы негізгі шектеуге айналып бара жатқанын, ал ұрланған тіркелгі деректерін пайдаланған кезде шығындар іс жүзінде нөлге тең болатынын атап көрсетеді.
Microsoft Defender for Endpoint зерттеу бөлімінің басшысы Джефф Макдоналд өзінің LinkedIn парақшасында жасанды интеллект моделінің мүмкіндіктерін ұқсас түрде бағалады. Оның айтуынша, жасанды интеллект бопсалау бағдарламаларына қарсы шабуылдарды мыңдаған, тіпті ондаған мың бір мезгілде жүргізілетін науқанға дейін кеңейтуге қабілетті, себебі қазіргі уақытта олардың ауқымы операторлар санынан гөрі шабуылдаушылардың бюджетімен шектеледі. «Бұл киберқауіпсіздік саласындағы бетбұрыс кезең, оған өнеркәсіп те, әлем де әлі дайын емес (…) Алдағы айларда бұл ауыр теріс салдарға әкеледі», – деп қосты Макдональд.
Business Insider жазғандай, барған сайын қуатты тілдік модельдердің пайда болуымен бірге кибершабуылдарда жасанды интеллектіні қолдануға қатысты алаңдаушылықтар артып келеді. OpenAI мен Anthropic киберқауіпсіздік саласындағы мүмкіндіктеріне қатысты алаңдаушылықтарға байланысты ең озық модельдерінің кейбіріне қолжетімділікті шектеуге мәжбүр болды.
