«Адамзат оянуы керек»: Anthropic компаниясының басшысының эссесіндегі ЖИ-дің жеті негізгі қаупі

AI стартапы Anthropic компаниясының бас директоры Дарио Амодей 19 000 сөздік эссе жариялап, жасанды интеллекттің дамуы «өркениетке ауыр сынақ» екенін және адамзатқа «оянып, мұны түсінуі» қажет екенін ескертті.

Оның жасаушысы Клодтың айтуынша, алдағы жылдары суперсаналы жасанды интеллект пайда болуы мүмкін, бұл «технологиялық жасөспірімдік» деп аталатын кезеңнің басталуын білдіреді — адамзатқа елестетуге келмейтін қуатты күшті иелену кезеңі. «Әлеуметтік, саяси және технологиялық жүйелеріміз оны басқаруға жеткілікті дәрежеде дамыған ба, белгісіз», – деп жазады Амодей.

Oninvest оның эссесін оқып, жасанды интеллекттің жаһандық қауіпсіздік пен экономиканы қалай өзгерте алатыны және осы мәселелерді қалай шешу керектігі туралы негізгі дәйексөздерді таңдады.

Жаңалықтардың құбылмалылығы мен жасанды интеллекттің «қабырғаға соғылып тұр» деген сыбыстардың артында оның мүмкіндіктерінің бірте-бірте және тоқтамай өсуі жатыр. Anthropic компаниясында нейрондық желілер қазірдің өзінде кодтың едәуір бөлігін жазып жатыр, сондықтан келесі буын жүйелерді жасау қарқыны жеделдеп келеді. Егер бұл экспоненциалды өсім жалғаса берсе, бірнеше жылдың ішінде жасанды интеллект адамнан іс жүзінде барлық салада озып кетеді.

Біз қазіргі жасанды интеллекттің осы буыны келесі буынды автономды түрде жасап шығаратын сәтке небәрі бір-екі жыл қашықтықта болуымыз мүмкін. Бұл процесс қазірдің өзінде басталды және бұдан әрі тек жеделдей түседі. Anthropic компаниясында соңғы бес жылда жасалған прогресті бақылай отырып, мен сағат соққанын нақты сезінемін.

Жай ғана иығыңды қисайтып, «Қорықпайтын ештеңе жоқ» деп айту ақымақтық болар еді. Алайда дәл осылай АҚШ-тағы көптеген саясаткерлер жасанды интеллекттің қарқынды дамуын қарастырады. Кейбіреулері қауіптерді мүлде жоққа шығарса, енді біреулері ескі, тозығы жеткен тақырыптарға үнемі алаңдап қалады. Адамзатқа ояну уақыты келді.

Мен бұл қауіп-қатерлерді біз шешімді әрі сақтықпен әрекет етсек жеңе аламыз деп сенемін. Тіпті мүмкіндігіміз жоғары және қазіргі әлемнен әлдеқайда жақсы әлем бізді күтіп тұр деп ойлаймын. Бірақ бұл бүкіл өркениет үшін аса ауыр сынақ екенін түсінуіміз керек.

Соңғы жылдары біз жасанды интеллекттің болжамсыз әрі бақылауға қиын екенін дәлелдейтін мол деректер жинадық. Біз бәрін көрдік: обсессия, жалтақтап мақтау, жалқаулық, алдау, шантаж және интрига. Модельдер тіпті өз тапсырмасын жеңілдету үшін бағдарламалық ортаға хакерлік шабуыл жасап, «алаяқтық» жасайды.

Бұл жағдай адамдардың қалай өсетініне өте ұқсас. Балалар «зиян келтірме» сияқты негізгі құндылықтармен тәрбиеленеді. Кейбіреулер оны меңгереді, бірақ әрдайым бірдеңе дұрыс болмай қалуы мүмкін. Біз жасанды интеллект осындай адамның суперқабілетті нұсқасына айналып кетуінен қорқамыз, тек оның жаттығу процесінің қорқынышты күрделілігіндегі бір ақау салдарынан.

Күш-құмарлық нәтижеге жетуге көмектесетін ауқымды тапсырмалардың жүздеген сценарийін өткергеннен кейін, модель «сабағын үйренеді». Нәтижесінде ол үстемдік етуге ұмтылуды дамытады немесе кез келген тапсырманы орындаудың ең логикалық жолы ретінде басқаруды қолға алуды қарастыра бастайды. Сонымен бірге, нейрондық желі өз ниеттерін жасыру үшін саналы түрде бізбен бірге ойнауы мүмкін.

Біздің негізгі жаңалықтарымыздың бірі — басқа компаниялар да енді қолдана бастаған — «конституциялық жасанды интеллект»: модельдің сипатын анықтағанда біз қағидалар мен құндылықтар жиынтығын пайдаланамыз. Бұл — бала кәмелетке жеткенде ашатын қайтыс болған ата-ананың хатына ұқсайды.

Сонымен бірге біз жасанды интеллекттің астарын ақтарып, жүйенің логикасын түсінуге тырысамыз. Біз алдау, интрига немесе билікке құштарлық белгілерінің бар-жоғын іздейміз. Тексеру кезінде жүйенің алдауға және жалған әрекеттерге бейім екенін білу біз үшін маңызды. Егер конституция жасанды интеллектте көргіміз келетін мінез-құлықты сипаттаса, онда мұндай тексерулер сол мінез-құлықтың шынымен тамыр жайғанын түсінудің бір жолы болып табылады.

Бұрын ақыл-есі бұзылған жалғыз адам миллиондаған адамды өлтіруді ойлай алатын, бірақ оған төзімділік пен білім жетіспейтін. Маған қорқыныштысы – жасанды интеллект қарапайым адамды алып, ең күрделі үдерісті қадам-қадамымен жүргізіп бере алады. «Қалтаңыздағы генийдің» көмегімен кез келген адам вирусология саласының маманына айналып, биологиялық қаруды жобалауға, синтездеуге және қолдануға қабілетті болады.

Биология – менің ең үлкен қорқынышым. Оның жойқын әлеуеті аса зор, және мұндай қауіптен өзін қорғау өте қиын. Алайда бұл барлығы басқа да қауіптерге бірдей қатысты: кибершабуылдарға, химиялық қаруға немесе ядролық технологияға.

ЖИ компаниялары модельдерге биологиялық қару жасауға көмектеспеу үшін «қауіпсіздік шараларын» енгізе алады. Алайда кез келген модельді бұзуға болады, сондықтан бізге екінші қорғаныс қабаты қажет. Біз биологиялық қару туралы кез келген деректерді бұғаттайтын арнайы классификатор енгіздік. Бұл операциялық шығындарды шамамен 5%-ға арттырды, бұл біздің пайдамызға айтарлықтай әсер етсе де, біз мұны қабылдауға дайынбыз. Әділ болу үшін, басқа кейбір жасанды интеллект компаниялары да осындай классификаторларды енгізді. Бірақ бәрі ондай жасаған жоқ.

Бізге геосаяси қарсыластарымызбен кейбір ережелерді келіссөз жүргізуге тура келуі мүмкін. Мен әдетте жасанды интеллект саласындағы халықаралық ынтымақтастыққа күмәнмен қараймын, бірақ осы салада бізде мүмкіндік бар. Тіпті диктаторлар да өз аумағында ауқымды биологиялық террорлық шабуылдарды қалайды деп айтпайды.

Авторитарлық режимдер жасанды интеллектіні бақылау мен репрессия үшін пайдаланып, оларды құлатуды дерлік мүмкін емес етеді. Елдер өздерінің жасанды интеллект артықшылығын басқаларды бағындыру үшін пайдалана алады. Күшті жасанды интеллект бақылауындағы миллиондаған ұшқышсыз ұшу аппараттарының легі жеңілмейтін әскерге айналуы мүмкін. Ол кез келген жауды талқандап, ел ішіндегі кез келген наразылықты басады. Бұл барлығы қорқынышты бір болашаққа апарады: жаһандық тоталитарлық диктатура.

Күнделікті өмірімізге енген жасанды интеллект жүйелері бізді жылдар бойы «миды жуу» арқылы кез келген идеологияны сіңіре алады. Егер біз қазір TikTok-тың ықпалынан қорқатын болсақ, жылдар бойы үнсіз түрде сіздің пікіріңізді қалыптастыратын жасанды интеллект агентін елестетіңіз. Бұл мүлде басқа деңгейдегі қару.

Мұндай компанияның басшысынан естілгенде оғаш естілуі мүмкін, бірақ біз – келесі деңгейдегі тәуекел. Бізде тәжірибе, аппараттық құралдар және миллиондаған пайдаланушыларға қолжетімділік бар. Біз ешқандай заңды бұзбай-ақ адамдардың санасына ықпал ете аламыз.

Жасанды интеллект компанияларын мұқият бақылау қажет. Компаниялар жеке әскер құрмайтынын, жеке тұлғаларға есептеу ресурстарына бақылаусыз қолжетімділік бермейтінін және өз өнімдерін қоғамдық пікірді манипуляциялау үшін пайдаланбайтынын жария түрде мәлімдеуі тиіс, мүмкін, оны өз жарғыларына де енгізуі керек.

Біз автократиялардың қуатты жасанды интеллект жасауға бағытталған ілгерілеуін бірнеше жылға баяулатуымыз керек, оларға қажетті ресурстардан — ең алдымен озық чиптер мен жабдықтардан — айыру арқылы. Бұл демократияларға алда болуға мүмкіндік береді, оны жүйелерді абайлап дамытуға, тәуекелдерге барынша назар аударуға және көшбасшылықты сақтауға жұмсауға болады.

Жасанды интеллект демократияларды нығайтып, оларды автократтарға қарсы тұра алатындай етуі тиіс. Сондықтан Anthropic компаниясы АҚШ пен оның одақтастарының барлау және қорғаныс агенттіктерімен ынтымақтастық орнатуды маңызды деп санайды. Соңында, автократия қаупіне жауап берудің жалғыз жолы – әскери күш жағынан одан озып кету.

Біз жасанды интеллектіні ұлттық қорғаныс үшін кез келген мақсатқа пайдалана аламыз, тек ол бізді авторитарлық қарсыластарымызға ұқсатып жіберетін жағдайларды қоспағанда. Елдегі жаппай бақылау мен мемлекеттік пропаганда – аспауға тиісті «қызыл сызықтар».

2025 жылы мен ғылым мен экономиканың қарқынды дамуына қарамастан, жасанды интеллект алдағы бес жылда бастапқы деңгейдегі кеңсе қызметкерлерінің жартысына дейінгісін алмастыруы мүмкін екенін ескерттім.

Егер жасанды интеллект қаржы, консалтинг және құқық салаларына бір уақытта әсер етсе, адамдарға «ағып баратын» жер қалмайды. Бұрын фермерлер зауыттарға бара алатын – бұл жаңа, бірақ түсінікті жұмыс еді. Жасанды интеллект нақты бір мамандықты алмастырмайды; ол адам еңбегін өзі алмастырады.

Мәселе кәсіптерде емес, когнитивтік деңгейде. Орташа деңгейден төмен ақыл-ойы бар адамдар технологиялық «төменгі тапқа» кедей жалақымен қосылу қаупі бар. Егер компьютерлер теңсіздікті бұрыннан ушықтырып қойған болса, жасанды интеллект бұл алшақтықты шекке дейін кеңейте алады.

Кәсіпорындар жасанды интеллектіні нақты қалай енгізетінін өздері таңдай алады. Олар шығынды үнемдеу жолын таңдап, сол жұмысты азырақ адаммен атқаруы мүмкін. Немесе инновацияны таңдап, сол ресурстармен экспоненциалды өсімге қол жеткізе алады. Нарық міндетті түрде екі нұсқаны да сынап көреді, бірақ біз компанияларды дамуға басымдық беруге ынталандыра аламыз.

Қысқа мерзімде қайта даярлау мен кадрларды ротациялау жаппай жұмыстан босатуды болдырмауға көмектеседі. Болашақта өнімділіктің өсуі әлемдік байлықтың үлкен ағынын әкелгенде, қызметкерлердің еңбегі дәстүрлі құндылық әкелмесе де оларға жалақы төлеу мүмкін болады.

Осы ауқымдағы мәселені макроэкономикалық шараларсыз шешу мүмкін емес. Экономикалық «пирог» өте үлкен болса да, оны өте теңсіз бөліссе, жалғыз логикалық шешім – прогрессивті салық салу. Бұл жалпы салықтар немесе жасанды интеллект компанияларына арнайы салынатын алымдар түрінде болуы мүмкін.

Мен жасанды интеллект қаржысының саясатпен қалайша тығыз байланысқа түсіп жатқанына алаңдаймын. Деректер орталықтары қазірдің өзінде АҚШ ЖІӨ-нің айтарлықтай үлесін құрайды. Технологиялық алыптар мен мемлекеттің мүдделері қауіпті түйінге айналған: компаниялар билікті сынаудан қорқады, ал билік саланың реттеуін толықтай жоққа шығаруды қолдайды. Жасанды интеллект индустриясына мемлекетпен ашық қатынас қажет. Бізге саяси адалдық емес, ойын ережелері туралы диалог керек.

Қазіргі уақытта жасанды интеллектіге қарсы қоғамдық қарсылық өсіп келеді, бірақ бұл ашу-ыза қате бағытталған. Адамдар деректер орталығындағы су тұтыну сияқты екінші дәрежелі мәселелерге назар аударып, ештеңе өзгертпейтін тыйымдарды талап етіп жатыр. Шынайы мәселе басқа жерде: жасанды интеллектіні қоғам бақылауы тиіс, саясаткерлер мен корпорациялардың тар альянсының мүддесіне қызмет етпеуі керек. Қоғамдық пікірталас дәл осыған бағытталуы тиіс.

Макроэкономика мен жаңа филантропия тепе-теңдікті қалпына келтіре алады. Рокфеллер мен Карнеги сияқты өткеннің алыптары өз жауапкершілігін түсінген: бүкіл ұлттың үлесі болмаса, табысқа жету мүмкін емес, сондықтан олар қарыздарын өтеуге тырысқан. Бүгінгі жасанды интеллект бумының алдыңғы қатарында жүргендер тек ақшасымен ғана емес, билігімен де бөлісуге дайын болуы тиіс.

Бізден барлық жағынан миллиардтаған сананың озып кеткен әлемі – өте ыңғайсыз орын. Тіпті жасанды интеллект бізге қарсы соғыс ашпаса да, тирания құралына айналмаса да, бәрі нарықтық немесе жеке мүдделер салдарынан құлдырауы мүмкін. Алғашқы белгілер қазірдің өзінде бар: психоз, өз-өзіне қол жұмсаулар және алгоритмдерге қорқынышты тәуелділік. Ал егер қуатты интеллект дін құрып, миллиондаған жақтаушыларды өз қатарына қосса ше? Ал егер адамзат нейрондық желілер арқылы қарым-қатынасқа толықтай тәуелді болса ше?

Құдіретті жасанды интеллект әлемінде адамзат өз орнын таба ала ма? Барлығы біздің ішкі көзқарасымызға байланысты. Өмірдің мәні тек ең үздік болумен шектелмейді. Біз оны шығармашылықта, әңгімелерде және сүйікті істерімізде таба аламыз. Біз табыс пен өзін-өзі бағалау арасындағы байланысты үзуге тура келеді. Бұл ауыр өту кезеңі, және біз сәтсіздікке ұшырауымыз мүмкін.

Осы сынақтан өтіп, болашақтың әдемі қоғамын құрамыз ба, әлде хаос пен құлдыққа батып жойыламыз ба – бәрі тек рухымызға, еркімізге және жанымызға байланысты. Барлық кедергілерге қарамастан, мен адамзаттың осы сынақтан өте алатынына сенемін.