Цезарьлар мен фанатиктер арасындағы жарыс: Жасанды интеллекттің болашағы туралы жаңа кітапта не айтылған
Кевин Рауздың «AGI Хроникалары» кітабы жасанды интеллект революциясының артындағы адамдар туралы егжей-тегжейлі баяндайды. Иллюстрация жасанды интеллект арқылы жасалған.
Кевин Руздың жаңа кітабы, *The AGI Chronicles*, The Atlantic журналына мақалалар жазатын автор Кевин Рауздың жаңа кітабы *The AGI Chronicles* шын мәнінде жасанды интеллекттің жалпы жасанды интеллектке (AGI) қалай дамығанын (және іс жүзінде қазірдің өзінде дамығанын) тарихи хроникасы болып табылады, ол адам деңгейінде немесе одан да жоғары деңгейде тапсырмаларды орындауға қабілетті.
Бұл, қарапайым тілмен айтқанда, аталмыш Цезарьлардың өмірбаяны. Мұнда бәрі ұсақ-түйекке дейін сипатталған, бірақ артық сөз бен кіріспе жоқ.
Мысалы, галлюцинация жасайтын модельдерге қарсы күрес қалай өрбіді. Немесе боттардан агенттерге өту қалай ойластырылды. Немесе модельдер «Французша «Мен ақымақ емеспін» қалай айтады?» сияқты тіркестер бойынша қалай сыналды. Немесе футурист Рэй Курцвайл 1999 жылы жалпы жасанды интеллект 2029 жылға қарай пайда болады деп болжаған – және, көрінгендей, оның есептеулері дәл келді.
2014 жылы Илон Маск пен Сэм Альтман философ Ник Бостромның «Суперинтеллект» кітабынан шабыт алып, бұл шынында да жасанды интеллекттің (қауіпсіздігі) туралы алғашқы талқылауларды туғызды. Осылайша АҚШ президенті Дональд Трамп AI-ды нақты «суперинтеллект» деп атауды талап етіп, өзінің онша білімсіз тиран емес екенін дәлелдеді.
Немесе Gemini-ге қатысты алғашқы жанжал шыққанда — Маск өзінің X аккаунтында Google-дың жасанды интеллект өнімін сексизм мен нәсілшілдікте айыптады.
Немесе басқаша айтқанда, ірі тілдік модельдер қара жәшікке ұқсайтыны анықталды. Ал бұрынғы машинамен оқыту жүйелері жолы-жолымен бағдарламаланғандықтан, инженер кодты тексеріп, қателікті әрдайым таба алатын, ал қазір білім миллиардтаған параметрлер бойынша таралған. Мысалы, егер GPT-2-нің адамдарға биологиялық қару жасау әдісін түсіндіре алатыны анықталса, модельдің осындай нұсқаулықтарды қамтитын бөлігін дәлме-дәл алып тастау мүмкін болмады.
Соңында бұл кітап бүгінге дейін ешкім біздің заманымыздың басты сұрағына лайықты жауап бере алмағанын зерттейді – немесе, дәлірек айтсақ, үш ықтимал жауаптың бірін таңдау: жалпы жасанды интеллект мүмкін бе? Әлде ол қазірдің өзінде бар ма? Әлде зерттеуді жалғастыруымыз керек пе? Сонымен қатар тағы бір байланысты сұрақ бар: оны адамдар үшін қалай қауіпсіз етуге болады? Кітапқа қарағанда, бұл жағдайда үш нұсқа жоқ, тек бір ғана жауап бар: мүмкін емес.
Тік жарыстар
Кітапта Руз 2015 жылы OpenAI-дың басшысы Сэм Альтманның Илон Маскке жазған хатын келтіреді.
Мен адамзаттың жасанды интеллектіні дамытуын болдырмау мүмкін бе деп көп ойландым. Менің ойымша, жауап дерлік «жоқ». Егер ол қалай болғанда да жүзеге асатын болса, оны Google емес, басқа біреу бірінші болып жасағаны дұрыс болар еді.
Дәл осы жарыста бірінші болуға деген ұмтылыс Anthropic компаниясының негізін қалаушылардың бірі Дарио Амодейдің, бұрынғы Google DeepMind басшысы Демис Хассабистің және осы кітапта көрсетілген басқа да тұлғалардың мінез-құлқын қалыптастырды.
Осы контексте Руз 1973 жылы алғаш рет ұсынылған «Қызыл ханшайымның» биологиялық гипотезасын еске түсіреді, оған сәйкес қоршаған орта үнемі өзгеріп отырады, ескі артықшылықтар өз тиімділігін жоғалтады, ал барлық тірі ағзалар үнемі дамып, тіршілігін сақтап қалу үшін күресуі тиіс.
Осы заңдардың дәл осылай жасанды интеллект марафонында да жұмыс істеп жатқандай көрінеді: Руз негізгі тұлғалардың бір-бірінің жетістіктерін (сондай-ақ әлеуметтік желідегі жазбаларын) маньякалық деңгейде бақылағандығы туралы өте сенімді түрде жазады.
2020 жылдың ортасына қарай жалпы жасанды интеллектіні (AGI) әзірлеу жарысында OpenAI, DeepMind және Google Brain үш командасы алда тұрды – дәл 1940 жылдары «Gadget», «Little Boy» және «Fat Man» атты үш атом бомбасы жасалғандай.
Муск пен Алтман Илья Суцкеверді өздеріне ауыстыруға бірнеше ай бойы тырысып, ал Google оны 6 миллион доллар жалақы ұсынып ұстап қалмақ болды (бірақ ақыры ол соған қарамастан OpenAI-ға кетті). Немесе кейіннен Альтман Трампқа жақындап, Маскке қарсы күресінде президенттік қолдауды қалай алды.
Дегенмен, бұл бәсеке тек амбицияны көрсету ғана емес, сонымен бірге ғылыми тәсілдердегі айырмашылықтарды да көрсетті. Мысалы, OpenAI командасы тілге назар аударып, оның әлем туралы қажетті барлық білімді кодтайтынына сенді. Сондықтан тілді үлкен модельдерге сығыстырып, одан барлық қажетті үлгілерді алу арқылы (Сутскевер жеткілікті дәл болжамдар AGI-ге жету жолы деп есептеген) адамзат жинаған барлық ақпаратты қамтитын ойлайтын машина жасауға болады. Осылайша, бұл машина ең ақылды адамнан ақылды болмаса да, оның білімінің ауқымы адамзаттың мүмкіндіктерінен әлдеқайда жоғары болатыны анық.
DeepMind, керісінше, жалпы жасанды интеллект жасау үшін тек тіл жеткіліксіз деген қағидадан бастады: физикалық шындық қажет, сондай-ақ сол шындықтың модельдерін жасау керек. Бұл тәсіл адамның кері байланысын пайдалана отырып күшейтуші оқытуға негізделген. Осы тұжырымдамаға сәйкес, суперинтеллект бәсекелес интеллекттер арасындағы бәсекелестік оңтайландыру процесі арқылы пайда болады.
Руз жазады: «DeepMind командасы да адамнан оза түсуге тырысты, бірақ адам тәжірибесін қайталау арқылы емес, оны елемеу арқылы.»
Google-дың кейбір басшылары, соның ішінде Сергей Брин, бір кездері жасанды интеллект бағдарламалау бойынша адамдарды басып озады деп сенген, модельдер автономды түрде жұмыс істей бастайды және олар кейін өзара байланысты өзін-өзі жетілдіру цикліне кіріп, бұл жалпы жасанды интеллекттің пайда болуына әкеледі.
Өз кезегінде Амодей табиғаттағы интеллекттің ауқымға (қарапайым айтқанда, мидың көлеміне) байланысты екенін дәлелдеді және, демек, суперинтеллектуалдық шекке жету мүмкіндігін арттыру үшін модельдердің көлемін ұлғайту жеткілікті.
2024 жылдың желтоқсанында Сутцкевер жасанды интеллектіні оқытуға қолданылатын деректерді қазба отынына теңеп, ресурстар жақында таусылып қалады деп ескертті, себебі интернет тек біреу ғана.
2025 жылы Элтман «жұмсақ сингулярлық» тұжырымдамасын ұсынды, ол жалпы жасанды интеллектке (AGI) өтудің кванттық секіріс емес, біртіндеп болатынын уәде етті.
Ал 2025 жылы жарияланған *AI 2027* эссесінде, авторлар 2027 жылдың басына қарай бағдарламалау толықтай автоматтандырылады деп болжады, ал 2030 жылға қарай суперинтеллекттің үйлестірілмеген билікке ие болуы мүмкін екенін жоққа шығармады. 2030 жылдың ортасында бұл жасанды интеллект суперқабілеті оншақты биовирусты таратады, олар ірі қалаларда байқалмай таралып, бірнеше сағат ішінде адамзаттың басым бөлігінің жойылуына әкеледі. Жарияланғаннан кейінгі алғашқы бірнеше күнде «AI 2027» эссесін АҚШ вице-президенті Дж. Д. Вэнс қоса алғанда, бір миллионнан астам адам оқыды.
Интонация vs AI
Бұл кітапты тек оның ырғағы үшін оқу – бір ләззат. Автор сенсацияға жүгінбейді немесе қолын шапалақтап уайымдамайды (тіпті биологиялық қару қолдану болжамдарының аясында да), ұзақ философиялық ауытқулар мен техно-фашизм мен Трампизм туралы әдеттегі толғаныстар жоқ (дегенмен кітап, әрине, Республикалықтардың соңғы жеңілісінен әлдеқайда бұрын жазылған).
Барлығы сабырлы түрде және белгілі бір жұмсақ, бірақ сөзсіздік сезімімен баяндалған. Кіріспеден бастап-ақ Руз бұл кітапты өзі жазғанын, яғни жасанды интеллекттің көмегінсіз (мүмкін, тек дереккөздерді реттеуде ғана) жазғанын ескертеді; сондықтан, тірі адам болғандықтан ол қателесуі мүмкін, бірақ ол жасанды интеллект модельдерінің осы кітапты, бұрын миллиондаған басқа кітаптарды меңгергендей, оқып, бәлкім одан бірдеңе үйренетініне үміттенеді. Көрінгендей, «халық басып өткен жол ешқашан оған апармайды» деген сөздердің заманауи баламасы дәл осылай болуы керек.
Бұл кітап жасанды интеллекттің жақсы ма, жаман ба, әлде оның жасаушылары батыр ма, әлде жау ма екенін дәлелдеуге бағытталған еңбек емес. Бұл – біздің тарихымыздағы ең оғаш онжылдықты мүмкіндігінше дәл жазып қалдыруға деген менің талпынысым ғана: сол кезде адамзаттың жоғары дамыған интеллектке деген монополиясы аяқталып, жаңа әлем дүниеге келді. Бүгінде жалпы мақсаттағы жасанды интеллектіні жасау мүмкін екені ғана емес, бір мағынада ең қиын жұмыстың өзі де әлдеқашан аяқталғаны айқын көріне бастады.
Рузо осы оғаш онжылдықты манифесттерден аңыз-әңгімелерге дейін дәл сипаттап берді. Кітапта аңыз-әңгімелер өте көп. Мысалы, 2020 жылы Альтман Канье Уэстке GPT-3-тің жабық бета-нұсқасына қолжетімділік ұсынған, бірақ OpenAI-дың саясат жөніндегі директоры Джек Кларк музыканттың психикалық денсаулығын алға тартып, бұл шешімді кері қайтарған.
Бұрынғы Ақ Үй стратегияшысы Стив Бэннон Амодей, Маск және Алтман үшеуін Апокалипсис атты шабанддар деп атады.
Мысалы, Stargate-ті алайық: 500 миллиард долларлық жасанды интеллект инфрақұрылымын құруға арналған американдық жоба телехикая атауына құқық MGM-ге тиесілі болғандықтан тоқтатылу қаупі алдында тұрды. Содан кейін Сэм Альтман Amazon компаниясының негізін қалаушы Джефф Безосқа (оның компаниясы MGM-ге ие) мәтіндік хабарлама жіберіп, оның келісімін алды.
Бұл адамдардың бәрі кімдер?
Цезарьлардың өмірбаянына келсек, бұл кітап маған олардың шын мәнінде қандай адамдар болғанын кенеттен түсінікті еткен алғашқы кітап сияқты.
Тағы да бұл сатирикалық ашып көрсетулер мен психологиялық портреттерсіз жүзеге асады. Көз алдыңа бірден айқын образ елестейді (кейде дәл телехикаядағыдай «The Heirs» – автор өзі де дәл осы жайтты атап өтеді: күн шуақты Напа алқабында, әйгілі French Laundry мейрамханасындағы тамақтан кейін OpenAI-дың фанатикалық өкілдері, DeepMind және Google Brain өкілдері жасырын түрде әлемнің жақындап келе жатқан соңы туралы талқылайды) дегендей, кейде дәл телехикаядағыдай).
Міне, жасанды интеллект зерттеушісі Элиезер Юдковский. Ол алтын қалпақ киеді, өзі туралы үшінші жақта сөйлегенді ұнатады және сұхбат беруден бас тартады, себебі бұл оның төзімділігін әлсіретеді.
Міне, Илья Суцкевер — шоколад зауытының үстіндегі кеңсесіндегі какао иісі аңқыған ауада қолға тұрып тұр, басына қан ағысының күшеюі мүмкіндігінше тез шешім табуға көмектеседі деп үміттенеді.
Альтманның бір әріптесі былай дейді: егер оны парашютпен адам етін жейтіндер аралына тастап кетсеңіз де, бес жылдан кейін барсаңыз, адам етін жейтіндер оны патшалары етіп сайлағанын сөзсіз көрер едіңіз.
Демис Хассабис «кайзен» деп аталатын жапон философиясын ұстанады, яғни үздіксіз өзін-өзі жетілдіру. Бұл тәсілді 1950-жылдары Toyota компаниясында қолдана бастаған. Ол DeepMind қызметкерлеріне бес пен жеті Нобель сыйлығын жеңіп алу сияқты мақсаттар қойды (шын мәнінде, оның өзіне де біреуі бар) немесе әлемдегі кез келген басқа зерттеу институтынан гөрі *Science* және *Nature* журналдарында көбірек мақала жариялау. Ол жеңіс сезіміне әуес. 2015 жылы DeepMind-тың бас кеңсесіне барған сапарында «ЖИ-дің крест атасы» Джеффри Хинтон бүкіл команданың көз алдында үстел теннисінде Хасабисті жеңді, сонда Хассабис қатты ашуланып, бөлмеден жүгіре шығып кетті.
Сол кезде Маск DeepMind-қа 5 миллион долларлық чек жазды — бірақ кейін оның бас директоры Хасабистің өмірбаянындағы бір жайтқа назар аударды: 20 жасында Хасабис Evil Genius деп аталатын ойын жасаған, оның мақсаты алдау арқылы әлемді жаулап алу еді.
Амодей туралы жиі «оның ішінде екі Дарио бар» делінетін. Бірі қауіпсіздікке әуес болып, жасанды интеллекттің жақындап келе жатқан үстемдігінен қорқады, ал екіншісі бәсекелестік рухпен әрекет етіп, Ричард Родстың «Атом бомбасын жасау» кітабындағы батыр рухында алғашқы болып жалпы жасанды интеллект (AGI) жасағысы келеді.
Дегенмен, бұл екіұштылық жасанды интеллект жарысына қатысып жүргендердің барлығына тән сияқты: Мысалы, Маск көптеген акселерационистермен дос болғанымен, 2023 жылы алдыңғы қатарлы модельдерді оқытуды алты айға тоқтатуды сұрайтын хатқа қол қойды. Және тағы да, ол бір кездері Хасабистің амбицияларынан қорқып қалған.
Тоқтамайтын даму жайлы
Кевин Рауздың басты ойы, бәлкім, жалпы жасанды интеллекттің пайда болуы міндетті болмағаны. Машиналық интеллект ежелгі атмосфераның газдардан пайда болған жоқ және Дарвиннің табиғи іріктеуімен де анықталмаған. Оны адамдар ойлап тапты – олардың саны бірнеше жүз ғана, ал көпшілігінің аттары жақсы белгілі.
Руз Хассабистің сұхбаттарда прогресті «аяусыз» деп сипаттау жиілігіне назар аударады. Бірақ прогресс жеке емес күш емес. Оны өз дәуірінде болашақтың ең жоғары сыйлығын танып, оны кез келген бағамен иеленуге бел буған адамдар алға сүйрейді.
Егер сол адамдар соққылы ұшақтарға немесе қалпына келтіретін ауыл шаруашылығына қызығып қалса, біз ChatGPT жоқ әлемде өмір сүріп жатқан болар едік, Клод немесе Джемини — онда жасанды интеллект әлі де робот-шаңсорғыштар мен ұсыныс жүйелерімен шектелетін әлем. Бірақ AGI-ді жасаған адамдар ұшақтарға да, фермаларға да қызықпады. Олар ақыл-ойға – дәлірек айтсақ, адам миы машина деген идеяға қызықты, және оны қалай жұмыс істейтінін түсінсек, әлдеқайда жақсысын жасай аламыз деп ойлады.
ЖИ-дің дамуына қатысқан әр адамның мотивациясы әртүрлі: адамзатты құтқарудан бастап қытай қауіп-қатеріне қарсы тұруға, жаңа дәрілер ойлап табудан трансгуманизм идеалдарын жүзеге асыруға дейін.
Бірақ Руздың айтуынша, оларды қозғаушы негізгі күш – технологияға деген құштарлық пен толқу еді. Олар сандық және кодтық алып массаның қалайша жанданып, сөйлей бастап, тура мағынада қайтадан аяққа тұратынына тамсана қарайды. (Ал бұл, әрине, ақша туралы әңгіме емес – көптеген адамдар бастапқыда коммерциялық емес миссияны көздеген, ал Илья Суцкевер мен Дарио Амодеи сол кезде Google-дан кетіп, жалақыларын қысқартып, адамзат мүддесі үшін жасанды интеллект жасауды мақсат еткен жаңа құрылған коммерциялық емес ұйымға қосылды).
Басқаша айтқанда, жалпы жасанды интеллекттің пайда болуы ақырында қажеттілікке айналғанымен, оны нақты бір адамдар жүзеге асырды: Соңында Руз «Илиададағы» кемелер каталогына ұқсас ұзын тізімді оқиды: Илья Суцкевер мен Мира Муратиден бастап Мустафа Сулейман мен DeepSeek инженерлеріне дейін.
Осы тізімнен ешқандай мораль алуға болмайды. Тек жақында біз, бәлкім, осы адамдарға алғыс айтуға немесе оларды қарғыс айтуға мәжбүр боламыз (әрине, егер сол кезде оларға алғыс айтатын немесе қарғыс айтатын адам қалса).
