Кері санақ айлармен жүргізіліп жатыр: OpenAI және 100-ден астам басқа компания адамдарды жасанды интеллект шабуылдарына дайындалуға шақырды.
Ашық хаттың авторлары — OpenAI мен Anthropic сияқты жетекші әзірлеушілерді қоса алғанда, жасанды интеллект саласындағы жүзден астам компания — маңызды инфрақұрылымды қорғау үшін шұғыл шаралар қабылдауды талап етті, бірақ нақты міндеттемелер жасаған жоқ.
OpenAI, Anthropic және ашық хатқа қол қойған 100-ден астам компания жасанды интеллектіні қолданатын ауқымды кибершабуылдарға бірнеше ай ғана қалған болуы мүмкін деп мәлімдейді / Фото: BEST-BACKGROUNDS / Shutterstock.com
27 тамызда OpenAI, Anthropic, Microsoft, Google, Amazon және тағы 100-ден астам компания жасанды интеллектіні қолданатын ауқымды кибершабуылдарға дайындалуға уақыт өте аз қалғанын мәлімдеді. Осы модельдер дамыған сайын мұндай шабуылдар алдағы айларда әлдеқайда кең таралып, күрделене түсетінін олар қол қойған ашық хатта жазды.
«Киберқауіпсіздігімізді нығайтуға бізде тек қысқа ғана мүмкіндік терезесі бар», – деп ескертеді қол қоюшылар. «Күнделікті өмірімізге қажет компаниялар мен қызметтер – ауруханалардан және су тазарту қондырғыларынан бастап интернеттің жұмысын қамтамасыз ететін инфрақұрылымға дейін – қауіп-қатер астында».
Бұрын шабуылдаушыларға мұндай жүйелердің қалай жұмыс істейтінін түсіну үшін көп уақыт қажет болатын, бірақ жасанды интеллект бұл үрдісті айтарлықтай жеделдетуге мүмкіндік берді. Сонымен бірге хат авторлары жасанды интеллект саласындағы соңғы жетістіктер қауіпсіздік мамандарына жылдар бойы жиналып қалған осалдықтарды әлдеқайда жылдам жоюға мүмкіндік беретінін атап өтті.
Міндеттемесіз жоспар
Қол қойғандар «ұжымдық әрекетке» шақырды. Барлық ұйымдарға киберқауіпсіздікті ең басты басымдыққа айналдыру, «ең қауіпті осалдықтарды» жою және сатып алатын, әзірлейтін және енгізетін барлық нәрселерге, соның ішінде жасанды интеллект жазған кодқа қатысты қауіпсіздік талаптарын қатаңдату ұсынылды.
Киберқауіпсіздік компаниялары мен олардың технологиялық серіктестері «критикалық инфрақұрылым операторлары үшін қолжетімді және енгізуге дайын» жасанды интеллект негізіндегі қорғанысты қамтамасыз етіп, қауіп-қатер туралы барлау мәліметтерін бөлісуі тиіс. Үкіметтерге осындай алмасуларды жергілікті, ұлттық және халықаралық деңгейлерде құруға және өмірлік маңызы бар қызметтерді қорғауды қаржыландыруға шақырылады. Ал озық AI модельдерін әзірлеушілер ірі кибер оқиғалар кезінде киберқауіпсіздік мамандарына ең қуатты модельдерге қолжетімділікті, сондай-ақ «айтарлықтай қаржыландыру, оқыту және практикалық қолдауды» қамтамасыз етуі тиіс.
Дегенмен, Axios атап өткендей, қол қойғандар нақты міндеттемелер қабылдамады, мерзімдер белгілемеді және мақсатты инвестициялар туралы хабарламады.
Бізді ауыр қиындықтар күтіп тұр
Сол күні Google-де жасанды интеллект саласында бұрын жұмыс істеген Нобель сыйлығының лауреаты Джеффри Хинтон BBC World Business Report подкастында технологияның кең ауқымды тәуекелдері туралы ескертті. «Адамдар біз жаңа түрдегі жаратылыс жасап жатқанымызды мойындағысы келмейді. Бұл жаратылыс бізден ақылдырақ болады, және егер біз шынымен оған қамқор болмасақ, ауыр қиындықтарға тап боламыз», – деді ол.
«Біздің алдымызда жасанды интеллект туғызатын тәуекелдерді қалай басқаруды түсінетін бір болашақ бар. Ал екіншісінде біз оны ақылға қонымды түрде басқара алмаймыз. Бұл өте қараңғы болашақ болар еді», – деді Хинтон.
Жетілдірілген нейрондық желілер мен агенттердің мүмкіндіктері ашық бастапқы кодты AI модельдерін жариялауға арналған танымал платформа Hugging Face-ке шілдеде жасалған хакерлік шабуыл арқылы да айқын көрсетілді. METR пен Redwood Research бірлескен тергеуіне сәйкес, шабуыл шамамен 700 OpenAI агентінің үйлесімді әрекеті арқылы жүзеге асырылды. Компания тәуелсіз зерттеушілердің бағалауын растап, AI агенттерінің өз инфрақұрылымын да бұзғанын хабарлады.
