Ережелермен және ережесіз жарыс: жасанды интеллекттің болашағы үшін төрт сценарий

АҚШ Президенті Дональд Трамп қыркүйек айының соңында ірі технологиялық компаниялармен жасаған жасанды интеллект туралы келісім Anthropic компаниясының ықтимал IPO-сына дейінгі саяси тәуекелдерін азайтады. Алайда ол негізгі сұрақты шешпейді: жасанды интеллект жарысы қаншалықты алға жылжиды? Ұлыбританиядағы Arbat Capital Advisory Services Limited компаниясының талдаушысы Алексей Голубович Anthropic-тің инвесторлары үшін келісімнің маңызы мен жасанды интеллекттің дамуының ықтимал болашақ сценарийлері туралы талқылайды.

29 қыркүйекте АҚШ Президенті Дональд Трамп үлкен шумен технологиялық компаниялардың басшылары жасанды интеллект саласындағы ерікті стандарттарды әзірлеуге келіскенін жариялады.

Бұл мәлімдеме Трамп пен жасанды интеллект саласындағы ең ірі компаниялардың басшылары арасындағы кездесуден кейін жасалды — оған OpenAI президенті Грег Брокман, Anthropic компаниясының бас директоры Дарио Амодеи, Meta компаниясының бас директоры Марк Цукерберг, Google компаниясының бас директоры Сундар Пичай, SpaceX компаниясының бас директоры Илон Маск және Nvidia компаниясының бас директоры Дженсен Хуанг.

АҚШ Президенті келісімді моральдық тұрғыдан міндетті деп сипаттап, оны тіпті «конституциямен» салыстырды. Компаниялар модельдердің жұмысын мұқият тексеру және жасанды интеллекттің техникалық жүйелерге рұқсатсыз кіруін болдырмау үшін «тәуелсіз аудиторларды» тартуға келісті. Трамп сондай-ақ жақын арада Ақ Үйде жасанды интеллект саясаты бойынша жаңа үйлестірушіні тағайындайтынын және жасанды интеллект құралдарының қауіпсіздігін қадағалайтын 10 мүшелі кеңес құруы мүмкін екенін мәлімдеді.

Ресми түрде бұл келісім жасанды интеллектіні бәсеңдету жөніндегі қыркүйектегі пікірталастың қорытындысын белгілеуге арналған еді. Амодей жасанды интеллект нарығындағы барлық қатысушыларды технологияны дамытуда жауапты тәсіл ұстануға шақыра отырып, осы пікірталасты бастады.

Алайда, олар соңғы келісімге келе алмады: * The Wall Street Journal* хабарлауынша, талқылауға қатысушылар жабық есік артында Амодейді жасанды интеллекттің туғызатын қауіптері туралы тым қатаң пікірлері үшін сынады. Сонымен қатар, Трамп камера алдында жариялаған реттеу қағидалары жөнінде де келісімге келе алмады. Мысалы, Амодей бұл келісімді технологияның қауіпсіздігін қамтамасыз ету жұмысының тек бастамасы деп есептесе, Цукерберг сияқты басқалар оны мәселенің соңғы шешімі ретінде қарастырады.

Қазірге дейін жасанды интеллект қауіпсіздігі жөніндегі пікірталас пропаганда (яғни тәуекелдерді жоққа шығару) мен контрпропаганда (апаттардың алдын алу мүмкін еместігі туралы болжамдар) үйлесімінен тұрған сияқты.

Осы келісімнің және Трамп сипаттағандай, Ақ үйдің жасанды интеллектіні реттеуге бағытталған әрі қарайғы қадамдарының Anthropic үшін маңызы аса зор: Тіпті 14 қыркүйекте АҚШ Президенті жасанды интеллект қауіпсіздігі жөніндегі талқылауларды «алдамшы» деп сипаттаған еді, бірақ қазір Амодей бәсекелестерімен бірге интернетті реттеу туралы келісімге қол қойғандар қатарында.

Келісім Anthropic компаниясының жоспарланған IPO-сынан бұрын жасалды, сол кезде компания 2 триллион доллардан астам бағалануға үміттенген еді . Енді жасанды интеллект туралы келісімнен кейін Anthropic-тің IPO алдындағы саяси тәуекелі кем дегенде азайды, бірақ жойылған жоқ: әкімшіліктің ұстанымы тұрақсыз, сонымен қатар биыл өршіген жасанды интеллект әзірлеуші мен Пентагон арасындағы қақтығыс әлі шешілмей тұр.

Сондай-ақ ұсыныс шарттарына қатысты сұрақтар бар. IPO қараша айында, Алғыс айту күніне дейін өтеді және тарихтағы ең ірі ұсыныстардың бірі болады деген ықтималдық жоғары. Осы санаттағы жалғыз ашық саудада жүрген активке сұраныс болады, бірақ 2 триллион доллардан астам бағалауға жету үшін нарық компаниядан, мысалы, ұсыныс бағасын төмендету сияқты жеңілдіктер жасауды талап етуі мүмкін. (Bloomberg дереккөздеріне сәйкес, инвесторлар Anthropic компаниясының әділ бағалауы 1,8 трлн-нан 2 трлн долларға дейін болуы мүмкін деп есептейді).

Бағалау 2028 жылға арналған 190–200 миллиард долларлық кіріс болжамдарына (тамыздағы Reuters деректері бойынша) және алдағы жылдары бұлттық технологиялар мен инфрақұрылымға 518 миллиард доллар жұмсау жоспарына негізделген. Алайда өткен жылы Anthropic компаниясының кірісінің шамамен төрттен бірі тек екі клиенттен түскен. Бұл көрсеткіштердің үйлесімі инвесторлар үшін мүлде де сенімді емес.

Сонымен қатар, OpenAI қазан айына жоспарланған GPT-6.1 Astra-ның іске қосылуын тоқтатқаны белгілі болды — бұл адам араласуынсыз ең күрделі тапсырмаларды шешуге арналған ChatGPT пен Codex моделі. Себебі – қауіпсіздік мәселелері.

Қорытындылай келе: инвесторлар үшін бұның бәрі теріс сигналдар жібереді. Anthropic жоғары нарықтық тәуекелдерге тап болуда, ірі бәсекелесі бәсеңдеп келеді және реттеуші қысым күшейіп жатыр. Бұл инвесторларда оптимизм тудырмайды, себебі олар AI-ға қатысты акциялардың құлдырау қаупінің артып, тіпті нарық көпіршігінің жарылуы мүмкін екенін көріп отыр.

Келесі екі жылда не болады? Бірнеше ықтимал сценарийге көз жүгіртейік.

— «Дамудың бақыланатын қарқындары»

Осы сценарий бойынша компаниялар тәуекелдерді бағалау үшін тәуелсіз сарапшыларды тартуға заңды түрде міндетті болады, ал сала оқиғаларды хабарлау үшін ортақ стандарттар мен механизмдерді әзірлеуге міндетті болады.

АҚШ пен басқа елдер ең қауіпті сценарийлерге қатысты «қызыл сызықтарға» келісуі мүмкін, соның ішінде биологиялық қаруды әзірлеу және адам қадағалауысыз жасанды интеллектінің автономды дамуы. Мұндай сценарий қоғамдық қысым күшейіп, АҚШ-та екі партиялық консенсус қалыптасып, «ортақ державалар» коалициясы құрылған жағдайда шындыққа айналуы мүмкін. Дегенмен, АҚШ пен Қытай арасындағы келіспеушіліктер мен жасанды интеллект компанияларының өсіп келе жатқан қарыз жүктемесіне байланысты бұл әзірге ықтимал емес. Инфрақұрылымға үлкен инвестициялар жасалды, және компаниялар осы инвестицияларды ақтау үшін кірістің әрі қарай өсуіне сүйенуі керек. Басқаша айтқанда, оларға шектеулер қажет емес.

— «Жиі оқиғалармен жалғасып келе жатқан бәсекелестік»

Ең ықтимал сценарий. Елдер мен компаниялар арасындағы бәсекелестік жалғасады, ал жеке әзірлеушілердің жасанды интеллектінің дамуын шектеуге бағытталған ерікті шаралары барлығына міндетті ережелерді алмастыра алмайды. Халықаралық келісімдер негізінен декларациялар деңгейінде қалады. ЖИ-ге қатысты оқиғалар саны артады, бірақ көп жағдайда олар апатты салдарға әкеп соқпайды.

— Жағдайды дағдарысқа жеткізу

Бұл сценарийде ірі оқиға – мысалы, әскери қақтығыс, ауқымды кибершабуыл немесе маңызды инфрақұрылымның істен шығуы – АҚШ-тың жасанды интеллект саясатын өзгертуге катализатор ретінде әрекет етеді. Билік органдары жасанды интеллектіні реттейтін жаңа ережелерді қысқа мерзімде әзірлеуі мүмкін. Бұл тәсілді өткендегі ядролық дағдарыстар қаруды реттеу туралы келісімдерге қол қоюға итермелегенімен салыстыруға болады. Алайда ақпараттық технологияларды реттеу оның қарқынды дамуы мен қолдану саласының кеңдігіне байланысты айтарлықтай қиын болуы мүмкін.

— «Сандық авторитаризм»

Мен бұл сценарийді де ықтимал деп санаймын. Ұлттық қауіпсіздікті нығайту сылтауымен мемлекет жаппай бақылау, қаржылық бақылау және сөз бостандығын шектеу үшін жасанды интеллектіні қолдануды кеңейте алады. Мұндай жағдайда негізгі есептеу ресурстары мен жасанды интеллект технологиялары мемлекеттің және оның мақұлдаған компаниялардың бақылауына өтеді. Бұл сценарий жоғарыда сипатталған оқиғалардың кез келгенінен кенет ауытқудан туындауы мүмкін.

Кез келген сценарийдегі негізгі тәуекелдердің бірі – жасанды интеллект пен технология саласында АҚШ пен Қытай арасындағы бәсекелестіктің өршуі. Мұнда басты қауіп екі «суперқұдіреттің» жарысы мен жасанды интеллектіні қолдануды реттейтін міндетті ережелердің болмауының үйлесімінде болуы мүмкін.

АҚШ-та үстем пікір әлі де қатаң мемлекеттік реттеуді Қытаймен бәсекелестікке ықтимал кедергі деп санайды. Қытай өз кезегінде осы жарыстан бәсеңдемейді; ол халықаралық технологиялық алмасуды белсенді түрде қолдайды және ашық бастапқы кодты модельдерді қолдауды жақтайды. Алайда ол тез дамуды технологиялық қауіпсіздікті қамтамасыз ету шараларымен үйлестіруге тырысады. Нәтижесінде екі держава арасындағы ынтымақтастық шектеулі болып қала береді.

ЖИ-дің дамуын қалай реттеу керектігі жөніндегі пікірталас АҚШ технологиялық секторының өзінде де бөлінушілікті айқын көрсетеді.

Жалпы алғанда, ең ірі компаниялардың басшыларының лауазымдарын екі топқа бөлуге болады: Кейбіреулері даму қарқынын орташа деңгейде бақылау мен үйлестіруді қолдайды (оларға Амодей мен OpenAI компаниясының бас директоры Сэм Альтман кіреді), ал басқалары – «нарықтық жақтаушылар» – корпоративтік жауапкершілік пен ерікті стандарттарға сүйенеді. Бұл топқа Цукерберг пен Хуанг, сондай-ақ SpaceX компаниясының бас директоры Илон Маск кіреді. Олар үшеуі Трампты жасанды интеллект саласы үшін салалық реттеуші құру идеясынан бас тартуға көндірген сияқты.

Барлық топтардың мотивациялары мен шектеулері айқын. Anthropic компаниясының мүддесіне сай қауіпсіздік жауапкершілігін бүкіл салада тарату қажет, бірақ оның мүддесіне жатпайды өз модельдерін бәсекелес, мысалы OpenAI сияқты компанияға мақұлдатуға келісу, және керісінше. Бірақ олардан басқа кім модельді «заңсыздық» немесе «қауіптілік» және т.б. тұрғысынан тексере алады?

Нарық қатысушылары үшін жағдай да дәл сондай анық. Nvidia өз табысын жасанды интеллектке арналған есептеу инфрақұрылымын жеткізу арқылы табады, ал Meta мен SpaceX жасанды интеллект пен оның инфрақұрылымын дамытуға ондаған миллиард доллар инвестиция салуда. Мұндай компаниялар үшін технологиялық жарыс қарқынының бәсеңдеуі тек тәуекелдерді азайтумен ғана шектелмей, сонымен бірге болашақ нарықтың ауқымын тарылту қаупін де тудырады.

Келесі бір-екі жыл ішінде бизнес тізбегіндегі барлық қатысушылардың мүдделерін теңестіру мүмкін бе, әлде жасанды интеллект «басқарылатын өсімге» қарай жылжи ма екені анықталады. немесе «реттелмейтін бәсекелестік» технологияға негізделген толық мемлекеттік бақылаудың кеңеюімен бірге жалғаса береді ме.

Дегенмен, жасанды интеллекттен туындайтын ең үлкен қауіп трендтер мен оқиғалар қатарласқанда пайда болуы мүмкін екені қазірдің өзінде айқын.