Жасанды интеллект адамзатты қандай жағдайда жойып жіберуі мүмкін?
Стратегиялық қауіптерді зерттейтін беделді орталық жасанды интеллекттің адамзатты қалайша жойып жібере алатынын зерттеді. Зерттеу нәтижесінде, бұл ядролық соғыстан туындайтын апат емес екені анықталды.
Машинадан шыққан бәлекет
«Жер бетінде адамнан кейінгі билікке ие болатын тіршілік иесі кім болады деп ойлайсыз?… Біздіңше, біз өз мұрагерлерімізді өз қолымызбен жасап жатырмыз. Олардың дене құрылымын күн сайын көркем әрі күрделі етіп жетілдірудеміз; оларға күн сайын жаңа күш-қуат беріп, түрлі ақылды құрылғылармен жабдықтап жатырмыз. Бұл өздігінен жұмыс істейтін, өзін-өзі реттейтін қуат. Уақыт өте келе, біз өзіміздің екінші сортты тіршілік иесіне айналғанымызды аңғарамыз…
Біздіңше, машиналарға дереу соғыс жариялау қажет – жай ғана күрес емес, өмір мен өлім арасындағы соғыс. Кез келген машинаны, қандай түрі болмасын, жою керек… Егер мұны қазіргі жағдайда жүзеге асыру мүмкін емес екені дәлелденсе, бұл – апаттың әлдеқашан орын алғанын, біздің құлдығымыздың ресми түрде басталып кеткенін білдіреді… әрі біз тек құл болып қана қоймай, сол құлдығымызға толықтай мойынсұнған боламыз», – деп жазған болатын ағылшын жазушысы Сэмюэл Батлер 1863 жылы жарық көрген «Машиналар арасындағы Дарвин» атты эссесінде.
Кейінірек Батлер бұл ойын одан әрі тереңдетіп, машиналар дамуын тоқтатпасақ, олардың адамзат үстінен билік жүргізетін кезеңге жетуі сөзсіз екенін айтты. Ол бұл тұжырымын 1872 жылы жарық көрген, сол дәуірде кең танымал болған фантастикалық романы «Эрехонда» (Erewhon – ағылшын тіліндегі nowhere – еш жерде сөзінің анаграммасы) кеңірек сипаттады.
ХХ ғасырда Батлер есімі көпшілік жадынан өше бастады. Алайда 1965 жылы Фрэнк Герберттің жазған «Дюна» романы оны қайтадан әлемге танытты. Бұл шығарма кейін бірнеше өте танымал кітап пен фильмдер сериясына ұласты. «Дюна» әлемінде ақыл-есі бар машиналарға қатаң тыйым салынған, себебі адамзат олармен күресте жеңіске жеткен. Бұл оқиға тарихта «Батлериандық жихад» деген атпен белгілі.
Күнтізбе — ХХІ ғасыр, терезе сыртында — жасанды интеллект төңкерісі. Және адамзат тағы да ойлана бастады: бәлкім, саналы машиналарды өмірімізге енгізу — орны толмас қателік шығар?
Зияткерлік қарулану жарысы
Мамыр айының басында Үндістан мен Пәкістан сияқты екі ядролық держава арасында тікелей қарулы қақтығыс басталып, адамзаттың ядролық қару ойлап табылған кезден бері мазасын қашырған көне үрейлерін қайта қозғады. Бұл қақтығыс апокалиптикалық Үшінші дүниежүзілік соғыстың бастамасы болып кетпей ме?
Алайда бүгінде бұл қауіптерге тағы бір жаңа өлшем қосылды — әскери мақсатта да қолданылып жатқан жасанды интеллект төңкерісі. Ақпан айында мен, мысалы, Google компаниясы бұрын оған соғыс мақсатындағы ЖИ әзірлеуге қатысуға тыйым салған ұстанымдарынан бас тартқанын жазған едім. Ал Palantir мен Anduril секілді компаниялар бастан-ақ әскери саланы басты бағыты ретінде таңдаған.
2023 жылдың наурызында ғалымдар «Жасанды интеллектпен байланысты ауқымды эксперименттерді тоқтатыңдар» деген ашық хат жазып, олар күшті ЖИ-ді әзірлеуді уақытша тоқтатуды талап етті. Олар осы уақытқа дейін ЖИ бақылаудың тиімді әдістері жасалмайынша, осындай дамудың қауіпті екенін айтты.
Бір жылдан соң тағы бір ашық хат жарияланды, онда мәселе күрделене түсті: «Жасанды интеллекттен туындайтын жойылу қаупін азайту жаһандық басымдыққа айналуы керек, бұл басқа да әлемдік ауқымдағы қауіптермен бірге, мысалы, пандемиялар мен ядролық соғыс сияқты қауіптермен қатар қарастырылуы тиіс».
Екі хатқа да он мыңдаған қол қойылғанына қарамастан, жұмыс тоқтатылған жоқ. Керісінше, ЖИ дамуы одан әрі жеделдей түскендей.
Жақында RAND атты танымал американдық аналитикалық орталықтың мамандары да өз пікірін білдірді. Бұл орталық стратегиялық қауіптерді талдау саласында маманданған және АҚШ үшін ядролық тежеу саясатын әзірлеуге қатысқан. Олар Scientific American журналында қызықты мақала жариялап, шын мәнінде, аса ақылды ЖИ адамзатқа экзистенциалды қауіп төндіре ала ма, яғни тек қандай да бір үлкен зиян келтіріп қана қоймай, адамзат түрін толық жойып жіберуге қабілетті ме деген сұраққа талдау жасады.
Бізді не өлтіруі мүмкін?
Мақала авторы Майкл Вермеер бастапқыда бұл идеяға күмәнмен қарағанын мойындайды. Адамзат тым көп, жаңашыл және өміршең, сондықтан оның ізін жоғалтып, жойылуы мүмкін емес деп ойлаған. Алайда зерттеуге ғылыми бейтараптықпен қарауды ұйғарды. Нәтиже күтпеген жағдайғаа өзгерген. Үш ең қауіпті жаһандық қауіп-қатерлер қарастырылды: ауқымды ядролық қақтығыс, өлімге әкелетін аурудың пандемиясы және климаттың өзгеруі.
RAND мамандарының есептеулері бойынша, егер де аса ақылды ЖИ бақылаудан шығып, тығыз қоныстанған аймақтарда барлық 12 мың ядролық оқтұмсықты жаруға тырысса, жалпы жарылыс қуаты динозаврлар дәуірінің соңының себебі деп болжанатын метеориттің құлауынан болған жарылыстан әлдеқайда аз болады. Кейінгі ядролық қыс және радиациялық ластану өте қорқынышты болар еді, бірақ адамзатты және егіншілікке жарамды жерлерді толық жоя алмайды. Демек, біз түр ретінде, ең алдымен, аман қаламыз (бірақ аман қалғандар онымен келісер ме — бұл басқа мәселе, бұл жұмыс ауқымынан тыс).
Пандемия қаупі де шын мәнінде бар, әрі дамыған жасанды интеллект өте қауіпті патогендерді жасап шығаруға қабілетті болуы мүмкін. Дегенмен, егер ол 99,9%-ға дейін өлімге әкелетін болса, шамамен 800 мың адам аман қалуы мүмкін, және бұл, теориялық тұрғыдан алғанда, адамзаттың қалпына келуі үшін жеткілікті болады. Ғалымдар одан да ары барып, аса қуатты және зұлым әртүрлі аурулардың «коктейлін» жасап, оны 100%-дық өлімге әкелетіндей етуі мүмкін деп болжады. Алайда оны Жердегі халықтың 100%-ына жұқтырып үлгеру қиынға соғады, әсіресе қауіпті жағдайларда қоғамдар карантиндерге жабылып, COVID-19 пандемиясы кезіндегі сияқты әрекет етсе.... Қызықсаңыз, Plague Inc. атты пандемия симуляторы бар, оны өзіңіз сынап көре аласыз.
Ал енді климаттың өзгеруі. Бірінші екі қауіпке қарағанда бұл қауіптілік аздаған ауыртпалықпен көрінеді. Ақырында, егер температураның көтерілуі экваторда өмірді шынымен шыдамсыз етсе, адамдар Жердің полюстеріне, суық климаттық аймақтарға көшуі мүмкін. «Егер Жерді адамдар үшін толығымен өмір сүруге жарамсыз ету керек болса, жасанды интеллект атмосфераға көмірқышқыл газынан әлдеқайда қуатты заттарды шығарып жіберуі керек еді. Бұл – жақсы жаңалық. Ал жаман жаңалық — мұндай парниктік газдар бар», — деп жазады Вермеер.
Егер жасанды интеллект бақылаудан шығып, бірнеше жүз миллион тонна мұндай газды өндіріп, атмосфераға шығарып жіберсе, Жер көп жылдар бойы адамзатқа жарамсыз болып қалуы мүмкін. Өкінішке қарай, бұл толықтай мүмкін емес деп айтуға болмайды. Мысалы, қазіргі таңда химиялық өнеркәсіп жыл сайын шамамен 450 миллион тонна пластик өндіріп жатыр.
Дегенмен, Батлерден айырмашылығы, RAND сарапшылары техникалық прогресті дереу тоқтатуды талап етпейді. Олардың пікірінше, жасанды интеллекттің адамзаттың жойылу қаупі, толықтай мүмкін емес болса да, төрт қосымша шарттың орындалуын талап етеді. Жасанды интеллект қандай да бір жолмен өзіне жойылуды мақсат етіп қойып, қауіп тудыратын негізгі физикалық жүйелерді бақылауға алуы керек, мысалы, ядролық қаруды іске қосу немесе химиялық өндіріс инфрақұрылымын басқару. Сонымен қатар, оған адамдарды көмек көрсетуге көндіру қабілеті қажет болады. Бұған қоса, жасанды интеллект өзінің әрекеттерін жеткілікті ұзақ уақыт бойы жасырып, табысқа жетуі керек. Соңында, ол өзінің қолдауын қамтамасыз ететін адамдарсыз өмір сүру қабілетіне ие болуы тиіс.
Бұл барлық шарттардың бір уақытта орындалуын болдырмау мүмкін, ол үшін ядролық қаруды, қауіпті патогендерді және парниктік газдарды бақылау шараларын күшейтіп, дамыта отырып жұмыс істеу керек. ЖИ бар немесе жоқ деген сұраққа қарамастан бұл шараларды жақсарту керек.
Қорытынды ретінде, әйгілі жасанды интеллект мәселелерін зерттеуші, философ Ник Бостромның кітабынан келесі цитатаны келтірген жөн: «Жасанды интеллекттің жарылыс сияқты дамуының алдында біз бомба ойнап жүрген балаларға ұқсаймыз... Қолында бомбасы бар балаға ең дұрысы оны жерге қойып, тез арада бөлмеден шығып, ең жақын жердегі үлкендерге хабарласу керек. Бірақ біздің жағдайымызда бала жалғыз емес, біз көппіз, әрқайсымыздың қолымызда жарылғыш бар. Барлығымыздың ақыл-ойымыз жеткілікті болса, қауіпті затты қауіпсіз жерге қойып шығара аламыз деген мүмкіндік өте аз. Біреудің қызыл түймесін қызығушылықпен басып жіберетін ақымақ шығады. Біз қашып та кете алмаймыз... Ересектер де көкжиекте көрінбейді... Ең дұрысы – барынша білімді және дайын болуға деген ащы шешім қабылдау... Біздің алдымызда тұрған сынақ – осы табиғи емес және адамзаттан тыс проблемаға тап болған кезде, адамдар ретінде сақталып қалуымыз керек. Біздің прагматикалық, сауатты, адал және оптимист болуымыз қажет».
