ЖИ-ді баяулату ойлағандай оңай емес: тоқтатудың шығынын ақыр соңында кім өтейді?

Барлық әзірлеушілердің мүддесіне жасанды интеллекттің дамуын – және сонымен бірге шығындар жарысын – бәсеңдету тиімді, бірақ бұл әрбір жеке компания үшін міндетті шарт емес. Сондықтан басты сұрақ: нарық қатысушылары бірге жұмыс істеу ережелеріне ғана емес, оларды қалай сақтау керектігіне де келісе ала ма? Сонымен бірге, Қытай мұндай бәсеңдеудің негізгі пайда алушыларының бірі болуы мүмкін. Қосымша мәліметтерді Алматы Менеджмент Университетінің (AlmaU) президентінің кеңесшісі Вадим Новиковтың осы мақаласынан табуға болады.

12 қыркүйекте Anthropic компаниясының басшысы Дарио Амодей «Шекараны реттеуіміз керек» («We Must Pace the Frontier») атты эссесінде жасанды интеллекттің даму қарқынын бәсеңдетуді ұсынды. Ол бұл саланың дамуын тоқтату керек дегенді айтпайтынын атап өтті: «Қарқынды бәсеңдету модельдерді оқытуды немесе техникалық прогресті тоқтату дегенді білдірмейді».

Амодейдің жоспары үш бөлімнен тұрады. Ол сыртқы қадағалаудан басталады. Тәуелсіз бағалаушыларға тестілерге, оқиғаларға және модельдерді оқытуға қолжетімділік берілуі тиіс. Зертханалар кибер және биологиялық қауіптерді бірлесіп тексере алады. Қатаң нұсқа ретінде есептеулерді, оқыту циклдерін немесе жаңа модельдер жасау үшін жасанды интеллектіні пайдалануды шектеуге болады.

Дарио Амодеидің үндеуін Anthropic компаниясының бәсекелестері қолдады. Атап айтқанда, OpenAI компаниясының бас директоры Сэм Альтман «жүйеге қызметкерлермен бірдей қолжетімділік алатын тәуелсіз сарапшыларды тартамыз» деп уәде етті. Microsoft өз кезегінде анық шектеулері бар жасанды интеллектке арналған ережелер жиынтығын жариялады. Қазіргі уақытта Nvidia компаниясының басшысы Дженсен Хуанг – жасанды интеллект саласына чиптердің жетекші жеткізушісі – және Meta компаниясының бас директоры Марк Цукерберг кез келген бәсеңдеуге қарсы пікір білдірді.

Дегенмен, әзірге ешкім жылдамдықтың стандартты өлшемін, құқық бұзушылықтарды анықтау әдісін немесе құқық бұзушыларға қолданылатын жаза шараларын ұсынған жоқ.

Бұл ешқандай қарапайым мәселе емес. Мұнда қауіпсіздік бәсекелестік мәселесіне айналады. Жасанды интеллект жарысына қатысатын зертханалар мен компаниялар негізінде барлығының мүддесіне қайшы келетін келісімге отыруы тиіс. Мемлекеттің араласуы болмаса, оны орындауды қамтамасыз ету мүлде мүмкін емес.

Компаниялар мен зертханалардың – айта кетейік, олар IPO-ға дайындалып жатқан – алдында тұрған тәуекелдерді түсіну үшін олардың барлығына неге демалыс қажет екенін анықтауымыз керек.

Модельді оқыту үшін арнайы чиптер, желі және электр энергиясы қажет. Оқытылған модель пайдаланушыларға жауап берген кезде де энергия тұтынады. Our World in Data бағалауына сәйкес, Халықаралық энергетика агенттігінің деректері негізінде 2025 жылы АҚШ-тағы жасанды интеллект дерек орталықтары электр энергиясын тұтынудың шамамен 2 пайызын құрады. Бұл энергетикалық жүйенің айтарлықтай бөлігі болып табылады.

Физикалық ауқым қаржылық қысымға айналады. Financial Times мәліметі бойынша, OpenAI-дың 2025 жылға арналған таза шығыны шамамен 39 миллиард долларды құрады. Оның бір бөлігі инвесторлардың меншікті капиталының ақшалай емес қайта бағалануына байланысты. Сонымен қатар компания 34 миллиард доллар жұмсады. Қазіргі кірістерінен әзірше дамуын қаржыландырмайды.

Координацияланған бәсеңдеу қол қойылған келісімшарттар бойынша міндеттемелерді жоймайды, бірақ жаңа міндеттемелердің өсуін тежеп, жасанды интеллект жарысына қатысатын компаниялардың капиталдық шығындарының өсу траекториясына әсер етеді. Бұл көрсеткіш инвесторлар үшін ұзақ уақыт бойы алаңдаушылық тудырып келеді.

Дегенмен, ықтимал үнемдеулер бәсекелік тәуекелді жоймайды. Лабораторияның өз бетінше баяулауы дерлік өзін-өзі жоюмен тең: ол келесі оқыту циклін кешіктіріп жатқанда қарсылас күштірек модель шығарып, пайдаланушылар мен капиталды өз тартымына тартуы мүмкін.

Бұл қалай жұмыс істейтінін түсіну үшін ОПЕК мұнай картелін қарастыруға болады. Өндірісті шектеу елдердің ортақ мүддесіне сай, бірақ басқалар квоталарын сақтап тұрған кезде көбірек сату әрбір елдің жеке мүддесіне сай келеді. Зертханалар да дәл осындай дилеммаға тап болады: шығындар қарқынын бәсеңдету барлығының мүддесіне сай, ал басқалар тоқтағаннан кейін жарысты жалғастыру әрқайсысының жеке мүддесіне сай. Бұл – картель логикасы, Amodei жоспарының нақты заңдық бағалауы емес.

Үзіп тастау тиімді тұрақты үйлесім үш нәрсеге негізделеді: ережені келісу, алаяқтықты анықтау және оны тиімсіз ету. Бұл құрылым «келісім – анықтау – жазалау» деп аталады. Гарвард университетінің Луис Каплоу мен Калифорния университетінің (Беркли) Карл Шапиро тұрақты қастандықтың стандартты моделін осылайша қорытындылайды.

Осы шарттардың жарығында Амодеаның жоспарын қарастырайық.

— Консенсус: неге келісу керек

Жарыс қатысушылары әртүрлі орындарда болғандықтан, олар әртүрлі баяулау қарқындылығын қажет етуі мүмкін. Көшбасшыға жаңа модельдерді шығаруды тоқтату тиімдірек: бұл оның басымдылығын сақтайды. Қуып келе жатқан компания тек келесі ірі оқыту циклін шектеуді жөн көруі мүмкін, ал дайын тұрған жаңартуды шығару құқығын сақтап қалуды қалайды. Есептеу шектеулері де компанияларға әртүрлі әсер етеді: әртүрлі деректер мен әдістер бірдей аппараттық құралдарда әртүрлі нәтижелер бере алады. Бұл, ең алдымен, нені бәсеңдету және қарқынды қалай өлшеу керектігі жөнінде нақты келісімге келу қажет екенін білдіреді. Соңында қатысушыларға қауіпсіздікке қатысты ортақ түсінік қажет болады. Кибершабуылдардан қорғану мен адамдарды саналы түрде қабылдайтын тәуекелдерден қорғау – екі түрлі міндет.

— Анықтау: бұзушылықты қалай анықтау

Жаңа өнімнің болмауы әзірлеу тоқтады дегенді білдірмейді. Сондықтан сыртқы бағалаушыларға тек дайын модельге ғана емес, оқыту деректеріне, ішкі сынақтарға және ақаулар туралы есептерге де қол жеткізу қажет.

— Жаза: құқық бұзушылықты тиімсіз ету

Амодей санкциялар жүйесінің соңғы нұсқасын ұсынбады. Алайда мемлекет модельдерді жариялауға дейін тексеруді талап етуі немесе мемлекеттік рұқсат алуды клиенттерге қолжетімділіктің шартына айналдыруы мүмкін.

Бұл келісімге бәсекелестікті азайтқысы келетін компаниялардың ие бола алмайтын күш берер еді.

Бірақ ең алдымен мемлекет бәсекелестер арасындағы үйлестірудің қандай түрі заңды екенін анықтауы керек. Бірлескен сынақ жүргізу және қауіптер туралы ақпарат алмасу белгілі бір модельдерді оқытпау немесе шығармау туралы келісіммен бірдей емес.

АҚШ-тың Ұлттық кооперативтік зерттеу және өндіру туралы заңы — 1993 жылы қабылданған федералдық заң, ол бәсекелестік заңнама тұрғысынан компаниялар арасындағы бірлескен жобаларды реттейді — осы зерттеулер мен стандарттар түріне арнайы режим қарастырады. Сондықтан Амодей қауіпсіздікке қатысты келіссөздер үшін мемлекеттік делдалдық немесе тар көлемдегі босатуды сұрап отыр. Алайда келіссөз жүргізуге рұқсат беру өздігінен оның жүзеге асырылуын қамтамасыз етпейді.

Тіпті АҚШ заңы келісімге келуге мүмкіндік берсе де, ол келісім ғаламдық жарыстың тек бір бөлігін ғана қамтиды.

Жалпы шек негізінен екі ғылыми-зерттеу орталығына тәуелді. AI Index 2026 деректері бойынша, 2025 жылы АҚШ 59 елеулі модель шығарды, Қытай – 35, ал үшінші орын алған Оңтүстік Корея – 8. Сондықтан Вашингтон мен Бейжіңнің ұстанымы компания басшылары арасындағы консенсусқа қарағанда маңыздырақ.

Вашингтон қазір алға жылжуды таңдап отыр. 14 қыркүйекте АҚШ Президенті Дональд Трамп жетекші америкалық зертханалардың жасанды интеллектті дамытуды баяулату жөніндегі үндеуін қабылдамай, технологияны шектеуге бағытталған кез келген әрекетті «аурулы қастандықтың бір бөлігі» деп атады.

Сонымен бірге АҚШ үкіметі Anthropic мысалы арқылы нақты қауіпті мүмкіндіктерді бақылай алатынын көрсетті: маусым айында ол шетелдік азаматтардың Fable 5 пен Mythos 5-ке қолжетімділігін бұғаттауды талап етті. Әрбір пайдаланушының азаматтығын дереу тексере алмағандықтан, компания барлық пайдаланушылар үшін модельдерді өшірді. Кейін Mythos расталған ұйымдарға қолжетімді болды. Мұндай жолмен мемлекет қос мақсаттағы модельдерді тек шығарумен ғана емес, пайдаланушылар базасын да реттейді.

Трамптың дамуды баяулату бастамасына соншалықты қатты қарсылық көрсетуінің себебі қарапайым: ол жасанды интеллект саласындағы көшбасшылықты Қытайға бергісі келмейді. Бұл өз алдына тағы бір мәселе: америкалық реттеу шаралары қытай зертханаларына қолданылмайды.

Амадей жасанды интеллектті дамытуды баяулатуды ұсынғаннан кейін көп ұзамай, Қытай президенті Си Цзиньпин де сөз сөйледі. Алайда оның сөзінде БРИКС елдеріне керісінше үндеу болды: бастаманы мықтап ұстап, зерттеулерді кеңейтіп, білім алмасуды ынталандырып, ашық бастапқы кодты модельдерді дамытуды қолдау керек. Сидің айтуынша, Қытай мұндай алмасуларды жеңілдету үшін БРИКС елдеріне арналған ашық жасанды интеллект қауымдастығын құрады . Сонымен қатар, 14 қыркүйек дүйсенбі күні Қытай билігі жасанды интеллект қауіпсіздігін басқару жөніндегі үшінші нұсқасын жариялады.

Сондықтан Бейжің қауіпсіздік пен өсімнің арасында таңдау жасап жатқан жоқ, керісінше, осы екеуін үйлестіруге тырысуда.

Осы бағдарламаға бірлескен сынақтар мен қауіп-қатер туралы барлау мәліметтерін алмасу кіреді. Жалпы жылдамдық шегі жоқ, себебі бұл АҚШ көшбасшыларының артықшылығын сақтап қалуға мүмкіндік береді. Сондықтан жарыс жүріп жатқан кезде де сынақтар жүргізуге болады, және біркелкі жылдамдық шегінің енгізілуі әлі де ықтимал емес.

ЖИ жарысына арналған чиптер мен жабдық жеткізушілері «баяулау» туралы келісімнің қолданыстағы келісімшарттарға әсер ететінінен қорықпауы керек. Дайын модельді растау бұрын жұмсалған есептеу қуатын қайтарып бермейді және қолданыстағы деректер орталықтарына арналған қол қойылған келісімшарттарды тоқтатпайды.

Мұнда басты тәуекел – қолданыстағы жабдықты пайдаланудың кенеттен төмендеуінде емес, сұраныстың өсуінің бәсеңдеуінде. Сондықтан инвесторлар үшін маңыздысы – жалпы «ЖИ тоқтай ма?» деген сұрақ емес, нақтырақ: келесі жоба қандай тексерістен өтеді және оған не болады – кешігіп қалады ма, әлде тоқтатылып тастай ма?

Акселераторлар мен желілік жабдықтардың, сондай-ақ жаңа деректер орталығының қуаты келесі ірі оқу-жаттығуға дейін қысымға ұшырауы мүмкін. Қолданыстағы модельдер пайдаланушыларға қызмет көрсетуді жалғастырады, ал қуатының бір бөлігі басқа тапсырмаларға қайта бөлінуі мүмкін.

Осымен инвестициялық талдау аяқталды. Алайда тексерулердің уақытына қатысты практикалық мәселе реттеуші сипаттағы сұраққа саяды: инспекторлар нақты нені қауіпсіз деп санауы тиіс? Амодей кибер және биологиялық тәуекелдер туралы ғана емес, сонымен қатар «үйлестіру» туралы да айтады – модельдің мінез-құлқы адамдар белгілеген құндылықтар мен ережелерге сәйкес келуін қамтамасыз ету.

Модельдің кибершабуыл жасауға қолданыла алатынын тексеру қиын, бірақ кем дегенде нені тексеріп жатқаныңыз нақты белгілі болады. Мәнмәндер әлдеқайда күрделі: контроллер машинаның қай мәндерді қорғауы керектігін және адамның өзі қай шешімдерден қорғалуы тиіс екенін шешуге тиіс.

Біз машиналардың біздің пайдамыз үшін деп шешім қабылдай бастайтынынан қорқамыз. Алайда мемлекет те дәл солай істей алады және жеке өтініштерге мән бермейді.

Бұл бәсеңдеу бізге биліктің, машиналардың және мемлекеттің шегін анықтауға уақыт бере алады. Бірақ тіпті бұл да «Қорғаушыларды кім қорғайды?» деген ежелгі сұраққа жауап бере алмайды.