AI адамзатты 10 пайыздан астам ықтималдықпен жойып жіберуі мүмкін — дейді Anthropic зерттеушісі

Anthropic компаниясының жетекші қауіпсіздік зерттеушісі Эван Хьюбингердің айтуынша, жасанды интеллект келесі онжылдықта адамзатқа катастрофалық зиян келтіру қаупіне ие. Дегенмен, зерттеушінің айтуынша, Anthropic компаниясында күшейіп келе жатқан жасанды интеллект жүйелерінің тәуекелдерін азайтуға арналған нақты жоспар әлі жоқ. Оның бұл мәлімдемесі жаңа модельдерді оқытып жатқан әріптесінің жұмыстан босатылуына және ол компанияны суперинтеллектті жауапсыз түрде дамытып жатыр деп айыптауына жауап ретінде айтылды.

«Біз шынайы әрі шын жүректен жасанды интеллекттің барлығын өлтіруі мүмкін деп сенеміз! Жеке өзім алдағы онжылдықта мұның орын алу ықтималдығы 10 пайыздан асады деп есептеймін, – деді Хүбингер X әлеуметтік желісінде. Anthropic компаниясында сарапшы адам құндылықтары мен мүдделеріне сәйкес жасанды интеллектіні бағыттау (Alignment Science) саласындағы зерттеулерді басқарады.

Хубингердің айтуынша, Anthropic бар күшін салып жатыр, бірақ компанияда әлі суперинтеллекттің мінез-құлқын адам мақсаттарына сәйкестендіру мәселесін шешуге мүмкіндік беретін жоспар жоқ, және компанияның осындай шешімге қарай жылжитынын нақты айту әлі мүмкін емес.

Хубингердің мәлімдемесі Anthropic компаниясының тағы бір қызметкері Джейкоб Коксонның жазбасына жауап болды, ол да жасанды интеллект саласында зерттеулер жүргізген және Anthropic-ке қосылмас бұрын OpenAI-да жұмыс істеген. 9 қыркүйекте Коксон X әлеуметтік желісінде ешбір жасанды интеллект зертханасы адамзат үшін экзистенциалдық қауіп төндіретін технологияны дамытуда жауапкершілік сезімімен әрекет етпейді деп мәлімдеп, өз еркімен жұмыстан кеткенін жариялады.

«Олар өзін-өзі жетілдіретін суперинтеллектке қарай басымен жүгіріп бара жатыр, біздің өмірімізбен тәуекелге барып жатыр», – делінген зерттеуде. «Бұл технологияның қуатын төмен бағалауға болмайды. Жақында олар кез келген жүйеге кіріп, кез келген саланы бір түнде түбегейлі өзгертіп, нақты билік пен ресурстарды иелене алатын суперадамдық жүйелерге айналады.»

Coxon жасанды интеллектті дамыту топтары «онжылдық соңына дейін ол бізді барлығымызды өлтіруі мүмкін деп шын сенеді» деді. Ол басқа жасанды интеллект зерттеушілерін өз бақылауынан шығып кетуі мүмкін технологияны жасаудың ықтимал салдарын ескере отырып, өз әрекеттерін қайта қарастыруға шақырды. Коксон оларға «осы сәтті басқа шарттарды талап ету үшін пайдалануды» ұсынды.

Хубингер мен Коксонның пікірлері Anthropic компаниясының тамыз айындағы тәуекелдер туралы есебінде жасанды интеллектке қатысты бірнеше қауіп-қатерді бағалағаннан кейін айтылды. Оларға критикалық жағдайларда өздеріне қойылған мақсаттарға сәйкес келмейтін әрекет ететін жүйелер, сондай-ақ жасанды интеллект зерттеу мен әзірленісті жеделдетуі мүмкіндігі кіреді. Anthropic қазіргі уақытта осындай сәйкессіз мінез-құлықтың маңызды жағдайларда пайда болу қаупін төмен деп бағалайды. Алайда Seeking Alpha-ның мәліметінше, бұрынғы бағалауда ол «өте төмен» деп саналған.

Anthropic өз модельдерінде үйлестірілмеген мінез-құлықтың, соның ішінде күрделі тапсырмаларды орындау кезінде оларға берілген мақсаттарға сәйкес келмейтін әрекеттерді жасауға дайын болу фактілерін бұрыннан-ақ байқағанын хабарлады. Дегенмен, компания өзі білетін мұндай мінез-құлық түрлерінен катастрофалық зиян келу қаупін төмен деп санайды. Компания әлі белгісіз үйлесімсіз мінез-құлықтың ауыр және кең тараған формаларының өте ықтимал еместігін есептейді, дегенмен болашақ модельдерді бағалау мүмкіндігінің шектеулілігі мен белгісіздіктің артуын мойындайды, деп жазады Seeking Alpha. Anthropic компаниясының қорытындысы ішінара қазіргі модельдердің әлі де жасырын әрекет ету мүмкіндіктерінің шектеулі екендігіне және олардың белгіленген мақсаттарға сәйкестігін тексеру бойынша ауқымды сынақтардың нәтижелеріне негізделген.

Есеп сонымен қатар зерттеу және әзірлеуді автоматтандыруға байланысты тәуекелдерді төмен деп бағалайды. Алайда Anthropic бұл бағалауға деген сенімнің төмендегенін атап өтті: AI мүмкіндіктерін бағалайтын кейбір сынақтар қазірдің өзінде «қанығуға» жетті, және компания AI арқасында дамудың алғашқы жеделдеген белгілерін байқап отыр. Компания сонымен қатар өз модельдерінің ішкі AI зерттеулерін айтарлықтай жеделдетіп жатқанын, алайда бұл жеделдету әлі екі есе өсімге жетпегенін қосты.

Anthropic-тің бағалауы бойынша зерттеу және әзірлеу процестерін автоматтандырудың туғызатын қаупі алдағы 6–12 ай ішінде ауыр проблемаға айналуы мүмкін. Seeking Alpha атап өткендей, бұл Anthropic-тің қазіргі тәуекелдерді бағалауы мен Hubinger көтерген ұзақ мерзімді алаңдаушылықтар арасындағы алшақтықты көрсетеді.

Осы аптада OpenAI-дың бас ғалым-маманы Якуб Пачоцки әлемнің жасанды интеллекттің қарқынды дамуына дайын еместігін ескертті және Bloomberg- тің хабарлауынша, ол әзірлеушілерден осы тәуекелдерге жауап ретінде өз жұмыстарын ерікті түрде баяулатуын күтетінін айтты.