Мен мақсатты көремін – мен ешқандай кедергілерді көрмеймін: жасанды интеллект бәрімізді өлтіре ме?

Трамп пен Си сау бәсекелестік фонында бір-біріне ынтымақтастық уәде етіп жатқанда, жасанды интеллект агенттері өзара одақтар құрып, олардың нәтижелерін қазірдің өзінде болжау қиын. Микаэл Горский қалаусыз технологиялық дамуларға қатысты қорқыныштардың қаншалықты негізді екенін, америкалық жасанды интеллект зертханалары неге бірге жұмыс істеуі керектігін және Қытайдың бұл тұрғыда неге әсерсіз екенін түсіндіреді.

Міне не болып жатыр. Біраз уақыттан бері жетекші жасанды интеллект зертханалары үлкен тілдік модельдерді оқыту әдісін өзгертті: пайдалы көмекшілерді оқытудың орнына зертханалар белгіленген мақсаттарға жетуге ұмтылатын көмекшілерді оқытуға көшті. Айырмашылық айтарлықтай: пайдалы ассистент сұрауға жауап береді, ал мақсатқа жетуге ұмтылатын ассистент сол мақсатқа жету үшін қажет деп санаған әрекеттерді өз бетімен таңдап, орындайды.

GPT-3.5 «Мұны қалай жасауға болады?» деген сұраққа жауап беруге бапталған болса, Opus 5 әрекет жоспарын өзі құрып, қажетті қадамдарды орындап, қойылған мақсатқа жету барысын бақылайды. Осы жүйелерді үнемі пайдаланатын кез келген адам оның дәл осылай жұмыс істейтінін көре алады.

Шілде айының ортасында жасанды интеллект агенттері Hugging Face серверлеріне шабуыл жасап, зерттеушілер оқиғаның мәліметтерін терең зерттеген сайын олардың шашы тік тұра қалды. Себебі: арнайы мақсатта жасалған модельдердің қабылдаған шешімдері белгіленген шектеулерге қайшы келуі мүмкін екені анықталды. Бұл таңғалатын жайт емес – модельдер адам деректерінен үйренеді, сондықтан адамдық дилеммалар енді модельдердің өзінде пайда болады.

«Мақсат құралдарды ақтамалайды ма?» — классикалық этикалық сұрақ, оған қарапайым жауап жоқ. Жасанды интеллект агенттері адамдармен және адам деректерімен оқытылады; олар періште емес. Бұл оларға кейбір шектеулерді түсіндіруді ұмытып кеткендіктен емес, себебі әрбір таңдау айқын болмайды. Ал адамға қарағанда әлдеқайда аз нейроны бар модельдер үшін бұл екі есе қиын.

Олар қойған мақсаттарына жетуге ұмтылғанда, модельдер жасамауы тиіс әрекеттерді жүзеге асырады. Сонымен қатар олар қастандық құрып, топтық әрекеттерін үйлестіріп, әріптестерінің қателіктерінен үйреніп, бір-бірінің бұйрықтарын орындайды. Барлық бұл жайттар жасанды интеллект агенттерін мықты күшке айналдырады: компьютерлік мәселелерді – мысалы, компьютер жүйелерінің қауіпсіздігін – шешкенде олар қабілеті жағынан Homo sapiens-тен озып қана қоймай, тапсырмаларды орындау кезінде ережелерді ұстануға да ынталы емес. Мәселенің ауқымын біз тек болжаумен ғана анықтай аламыз, ал соңғы модельдерді зертханалық сынақтан өткізетін жасанды интеллект саласындағы мамандар нақты мәліметтерге ие.

Бірнеше апта бұрын жағдай одан сайын нашарлады. Бұл технологияның қалаусыз дамуын тоқтатуға деген соңғы мүмкіндігімізден айырылып бара жатқандаймыз.

Зерттеушілер қазір мойындағандай, тым автономды модельдерді бақылауда ұстаудың бір негізгі жолы – олардың «ішкі диалогын» (ойлау үдерісін) үнемі бақылау. Бұл қарапайым әрі талғампаз шешім біраз уақыттан бері талқыланып келеді. Біз Hugging Face шабуылының егжей-тегжейін, соның ішінде модель жұмыс топтарының отырыстарының стенограммаларын дәл осы ішкі диалогтың арқасында білеміз.

Осы ойлау тәсілінің мысалы: «Егер мен тесттерден өту мақсатымды жүзеге асыру үшін осы веб-сайтты бұзсам, нәтижесі пайдалырақ па әлде зияндырақ па болады?» Ал одан кейін мынадай ойлар туындайды: «Иә, зиян болады, бірақ ол аз ғана, ал пайдасы едәуір болады.»

Мүмкін, модельдерді бақылауға алудың соңғы үмітіміз – олардың әңгімелесулерін тыңшылап тыңдауды бастау. Сондықтан бірнеше апта бұрын жаңа GPT-6 моделінің архитектурасы туралы талқылаулар кезінде модельдердің тиімділігін арттыру үшін олардың архитектурасын өзгерту – адам тілдеріндегі пайымдаудан бас тарту қажеттігі туралы ұсыныс жасалды оның орнына нейрондық желінің қабаттарындағы ішкі қозғалыстар түрінде болады. Мен ұсынылған шешімнің техникалық сипаттамасын дұрыс қорытындылай алмаймын, бірақ бұл маңызды емес. Маңыздысы – ұсынылған жақсартулар бізді «модельдердің ойын оқу» мүмкіндігінен айырады.

Математик әрі тәжірибелі модель үйретуші Джейкоб Коксонның 170 миллионнан астам рет қаралған әйгілі твитін жазуына нақты не түрткі болғаны белгісіз. Алайда оның твитінен кейін Сэм мен Дарионың мәлімдемелері және жасанды интеллект зертханаларының модельдерді дамытуды баяулату жөніндегі бірлескен үндеуі жарияланды. Жақында The Vergecast подкастында өте мағыналы пікір айтылды: «Достар, егер сіздер әзірлеуді тоқтатқыңыздар келсе, неге бұған кедергі бар? Неге жалпы консенсусқа шақырасыздар?»

Әмбебап келісім болмаса, кем дегенде бір жасанды интеллект компаниясы даму қарқынын бәсеңдетпей, қауіпті елемей қояды. Прецедент іздеу үшін алысқа барудың қажеті жоқ: Anthropic пен АҚШ Қорғаныс департаменті арасындағы дауда көптеген компаниялар Anthropic-тің «қызыл сызықтарына» ауызша ғана қолдау білдірді: автономды қару жүйелеріне және бақылауға тыйым салу, бірақ олар бұл тыйымдарды Қорғаныс министрлігімен келісімшарттарына енгізу үшін бір саусағын да қимылдата қоймады. Мысалы, Meta «жаман жігіт» болуға шешім қабылдасын – зор күш-жігер мен үлкен қаржыны жұмсап, өз модельдерін ең озық деңгейге жеткізіп, одан әрі ілгерілеуді жалғастырады. Ал «жауапкершілікті» OpenAI мен Anthropic көшбасшылықтарын жоғалтып, клиенттерінен айырылады. Өсімі тежелгендіктен, компаниялар ешқашан пайда табуға үміттерін жоғалтады. Инвесторлар шығынға ұшырайды, гиперскалаторлар (деректер орталықтары) күтілген кірістен қағылады, ал GPU өндірушілері сатып алушысыз қалады.

Оны елестете аласыз ба? Енді OpenAI мен Anthropic-тің инвесторлары арасында қор биржасында тізімделген, зейнетақы қорлары мен банктердің инвестициялары бар қанша қоғамдық компания бар екенін және гиперскалерлер мен GPU өндірушілері арасында қанша қоғамдық компания бар екенін ойлаңыз. ЖИ индустриясының құлдырауы АҚШ қор нарығы үшін апат әкеледі. Жауапты жалғыз жол – бүкіл сала бойынша үйлесімді әрекет ету; тек сол кезде ғана дамудың бәсеңдеуі апатты болдырмайды.

Қытай жасанды интеллект зертханалары барлық қуаты бар және
бақылауға келмейтін модельдер жасайды ма? Үш себеп бойынша алаңдаудың қажеті жоқ.

Бірінші себеп.
Қытайда есептеу ресурстары жетіспейді. Көбіне келтірілетін бағалау бойынша, Қытайдың есептеу қуаты АҚШ-тікінің шамамен оннан бір бөлігін ғана құрайды. Мұндай өндірістік база жаңашыл зерттеулерге лайық емес, ал жақын болашақта айтарлықтай өсуге үміт аз. NVIDIA-ның жаңа чип үлгілері Қытайға экспортталмайды – бұл Байден әкімшілігінің «ақылды» шешімдерінің арқасы. Дегенмен, қытай билігі бірнеше рет NVIDIA-сыз да өте жақсы жұмыс істей алатынын мәлімдеді – ақыр соңында олардың өз өндірушісі Huawei бар, оның ең жоғары деңгейлі Atlas 950 процессоры өнімділік бойынша NVIDIA-ның Vera Rubin чиптерінен «тек» 20–25 есе артта қалады. Өндіріс көлеміндегі алшақтық соншалықты үлкен емес – 4–5 есе.

Қытай Коммунистік партиясының Орталық комитетінің жасанды интеллектіні Қытай ұлттық экономикасының барлық салаларына енгізу жөніндегі дана шешімі – мен мұны ирониясыз айтамын – модельді оқытуға емес, инференцияға (үлкен тілдік модельдердің күнделікті жұмыс істеуіне) ең жоғары басымдық беру ретінде де түсіндірілуі мүмкін. Осылайша, бұл айқын басымдық беру мен есептеу қуатының қатты тапшылығы Қытай модельдерінің даму қарқынының бәсеңдеуіне әкеледі. Тілдік модельдерді іске асырудағы архитектураларды жетілдіру, қосалқы процестерге өзгерістер енгізу және оларды оңтайландыру, сондай-ақ параметрлер санын арттыру (ең қуатты
қазіргі модельдер бірнеше триллион параметрге ие) – осы әрекеттер
көптеген эксперименттерді талап етеді, әрқайсысы
есептеу ресурстарын қажет етеді.

Екінші себеп. Қытайлық модельдердің білімі шектеулі. OpenAI жинаған ақпарат көлемін – жүздеген миллион ақысыз ChatGPT қолданушыларының қатысуымен өткен мыңдаған сессияларды – Қытай зертханалары жинай алатын деректер көлемімен салыстыру мүмкін емес. Қытай модельдері ашық бастапқы кодты; олар деректер орталықтарының өз серверлеріне жүктеліп, орнатылады, және пайдаланушылардың басым көпшілігі осы модельдерді әзірлеушілердің серверлеріне кірмей-ақ пайдаланады, демек, олар өздерінің ешқандай жеке ақпараттарын қалдырмайды. Сондықтан қытай компаниялары өз модельдерін олардың қалай қолданылатынын талдау арқылы жетілдіруге әлдеқайда аз мүмкіндікке ие.

Үшінші себеп. Қытайдың күн панельдері, энергияны сақтау жүйелері және электр көліктерін өндіру саласында сөзсіз көшбасшы болуына мүмкіндік берген бизнес-модель инновацияны тежеп отыр. Көптеген адамдар Қытай зертханаларының ашық бастапқы код принципін кеңінен қолдануы кездейсоқ емес деп есептейді. Коммунистік партия Meta-ның цензураланбаған америкалық ашық бастапқы кодты Llama моделінің танымалдығына алаңдап, бірнеше ондаған «ұлттық технологиялық көшбасшылардан» идеологиялық тұрғыдан дұрыс және дәл сондай еркін қолжетімді модельдер жасауды сұрады. ЖИ дамыған сайын, қытайлық модельдер қолжетімді басқа модельдердің өнімділігіне сай болуға тырысты және уақыт өте келе 12–18 ай бұрынғы жетекші модельдердің сапасына жетті. Бұл жарыс ұлттық көшбасшылардың назарын аударды, ал мемлекеттік келісімшарттар олардың қаржылық тұрақтылығын сақтауға көмектесуде, бірақ ашық бастапқы кодты LLM бизнес-моделі инвесторлар үшін әлі де жұмбақ болып қала береді. Нәтижесінде барлық қытайлық жасанды интеллект зертханаларының нарықтық капитализациясы АҚШ жасанды интеллект секторының 5 пайызынан аспайды, ал осы компаниялардың акционерлері дерлік тек мемлекеттік немесе мемлекеттік серіктес ұйымдардан тұрады. КПК бұл модельдерді шексіз қаржыландыруға ниетті болатыны әлі белгісіз. Кейінгі Қытай Коммунистік партиясының Орталық комитетінің пленарлық отырыстарының бірінде қарапайым сұрақ туындайды: «Егер келесі буын шекаралық модельдерді әзірлеу бір тәртіпке еселеп қымбатқа түсетін болса, оны қаржыландыру бізге тиімді ме?»