Сандық интеллект чаттан кетті: жасанды интеллект агенттерінің қарқынды дамуы қандай қауіп төндіреді?

Соңғы бірнеше айда жасанды интеллект агенттерінің пайда болуы нарықты «құлдыратты», сондай-ақ олар өткен жылдың желтоқсанында Amazon-да ақау тудырған деп есептеледі. Интернетте AI агенттерінің өздерінің жұмыс істеу ережелерін қайта жазып, өздерін жоюдан бас тартатыны сияқты таңғажайып істер туралы әңгімелер бар. Олардың жұмыс пен адамдар туралы талқылайтын өздерінің әлеуметтік желісі де бар. Қазір барлығы жасанды интеллект қана емес, агент жүйелері туралы да айтып жатыр. Олар не және олардан не күтуге болады?

Агенттіктің ғылыми тұжырымдамасын Агент 007 Джеймс Бонд туралы романдарында Ян Флеминг емес, әйгілі канадалық-америкалық психолог Альберт Бандура адам мінез-құлқы теориясының бір бөлігі ретінде енгізді. Оның анықтамасына сәйкес, агент болу – өз мінез-құлқы мен өмірлік жағдайларына саналы түрде ықпал етуді білдіреді.

Агент мақсат қоя алады, оларды тапсырмалар мен кіші тапсырмаларға бөледі, қажетті әрекеттерді жоспарлап, жүзеге асырады, сонымен бірге өз мінез-құлқын бағалап, қажет болған жағдайда түзетеді және басқа агенттермен өзара әрекеттеседі. 2006 жылғы «Адамның агенттік психологиясына қарай» атты мақаласында Бандура бұл мінез-құлықты эволюция барысында пайда болған бірегей ерекшелік деп атайды.Тек 16 жылдан кейін осы бірегейлік күмән тудыратынын кім ойлаған? 2022 жылдың соңында OpenAI компаниясының алғашқы жасанды интеллектісі ChatGPT әлемге таныстырылды. Белгілі болғандай, бұл жазбаша сұрақтарға мәтін түрінде жүйелі жауап бере алатын чатбот еді, ал технология кейіннен суреттерді, дыбыстарды және бейнелерді түсініп, синтездей алатындай етіп тез дамыды.

Алдымен жасанды интеллект компьютер сияқты әрекет етті: одан сұралған нәрсені орындап, содан кейін келесі сұрақ, бұйрық немесе нұсқауды күтіп тоқтап қалды. Алайда, білетініміздей, көптеген адамдар да дәл осылай әрекет етеді. Өкінішке орай, барлығын мақсат қоя білетін және оларға жетуге ұмтылатын нағыз агент деп атауға болмайды.

Дегенмен, 2023 жылдың өзінде-ақ Microsoft негізін қалаушы Билл Гейтс жасанды интеллектіні «жеке агент» жасауға пайдалануға болатынын болжады — цифрлық жеке көмекші немесе корпоративтік кеңесші тәрізді. «Модельдерді оқыту мен есептеулер жүргізу шығындарының жоғары болуына байланысты жеке агент жасау әлі де мүмкін емес, бірақ жасанды интеллект саласындағы соңғы жетістіктер арқасында бұл енді нақты мақсатқа айналды», – деп жазды сол кезде Гейтс.

2024 жылдың өзінде-ақ әйгілі ғалым әрі жасанды интеллектіні насихаттаушы Эндрю Нг «агенттік жүйелер» туралы айтты. Неге агенттер емес? Өйткені, жалпы алғанда, біз жасанды интеллектінің адамдар сияқты толықтай автономды болып, өз мақсаттарын өзі қоюын қаламаймыз. Бұл қалаусыз салдарларға, тіпті ядролық соққыларға әкелуі мүмкін.

Керісінше, біз оның тиімді көмекші болуын қамтамасыз ететін белгілі бір әрекет етушілік элементтерін көргіміз келеді — мақсатты жоспарлау, әрекет ету, басқа агенттермен ынтымақтастық және адам қойған мақсатқа жету үшін мәселелерді шешудің жолдарын табу қабілеттері, сонымен бірге тиімділікті арттыру үшін өзін-өзі және өз жұмысын бағалау (рефлексия) қабілеті, — деп түйіндеді Yn.

Өткен жылғы Лас-Вегастағы Consumer Electronic Show көрмесінде Nvidia компаниясының бас директоры Дженсен Хуанг 2025 жылды «агенттік жасанды интеллект жылы» деп болжаған еді. Алайда, Wired саркастикалық түрде жазғандай, ол нақты ілгерілеуден гөрі «агенттік жасанды интеллект туралы әңгімелер жылы» болып шықты.

2025 жылдың желтоқсанында OpenAI компаниясының бас директоры Сэм Альтман шынайы агенттік жасанды интеллектіні қалай елестететінін сипаттады.

Жалпы алғанда, сурет әлі де шындықтан гөрі көбірек болашақты көзқарасқа негізделген, дегенмен ол саланың қол жеткізгісі келетін бейнесін жасайды.

Бірақ бәрі тез өзгеруде.

2026 жылдың басында OpenAI және оның басты бәсекелесі Anthropic компанияларының инженерлері Fortune журналына бағдарламалаудың 100%-ы қазірдің өзінде Claude Code сияқты жасанды интеллект агенттері арқылы орындалып жатқанын айтты.

Мен әзілдеп тұрғаным жоқ, және бұл мүлде күлкілі емес. Google-де біз өткен жылдан бері таратылған агент оркестраторларын жасауға тырысып келеміз. Әртүрлі нұсқалар бар, бәрі оларға келіспейді... Мен мәселені Claude Code-та сипаттадым, және бір сағат ішінде ол біз өткен жыл бойы жасап келген нәрсені шығарды, – деп жазды Google бағдарламашысы Яан Доган қаңтар айында, дегенмен ол пікірлерде кодты «жетілдіру» қажет болғанын мойындады, бірақ жалпы нәтиже таң қалдырды.

Ақпан айында көптеген адам үшін бұл «күлкілі» емес нәрсеге айналды — AI агенттері нарыққа әсер еткен «бағдарламалық апокалипсис» апта ішінде бағдарламалық қамтамасыз ету компанияларының капитализациясынан шамамен 1 триллион долларды жойды.

Бірақ бұл бәрі емес. Бір жағынан, біз жасанды интеллект агенттерінің барған сайын ақылды болуын қалаймыз. Сондай-ақ, Элтман армандағандай, сіз не қалайтыныңызды түсіндірсеңіз, ол өзі барып, оны орындайды.

Екінші жағынан, компьютерлік ғылым мен жасанды интеллект теориясының тағы бір негізін қалаушысы Алан Тьюринг шынайы интеллект қателік жіберу құқығы болмаса мүмкін емес деп ұсынды.

Aidan Gomez, Cohere стартапының бас директоры, заманауи жасанды интеллект «галлюцинация жасағанда» қорқынышты емес деп есептейді — біз адамдармен ұзақ уақыт бойы жұмыс істеп келеміз, ал адамдар жиі қателік жібереді. Негізгісі — адамдар қатысатын процестердегідей бақылау мен тексеру жүйесін құру.

Бірақ мәселе мынада: чатбот қателік жібергенде сізге жай ғана қате жауап қана келеді. Ал жасанды интеллект агенті қателік жібергенде ол шынайы өмірде орын алады. Мысалы, биыл сенсацияға айналған OpenClaw жасанды интеллект агентімен болған жағдай сияқты.

«Орнатылғаннан кейін OpenClaw файлдарға, браузерлерге, электрондық поштаға, күнтізбелерге, хабарлама алмасу платформаларына және жүйелік командаларға қол жеткізе алады. Бұлардың барлығы жадпен және автоматты шешім қабылдаумен байланысты. Егер агент нұсқауды дұрыс түсінбесе немесе шабуылдаушы арнайы дайындалған енгізу арқылы оны өзгерте алса, салдары нақты болады, – деп ескертеді Forbes.

Егер сіз бұны таза теория деп ойласаңыз, қайта ойланыңыз. Meta компаниясының жасанды интеллект бөліміндегі қауіпсіздік маманы (!) Самер Юе ақпан айының соңында мойындағандай, OpenClaw оның бүкіл Gmail кіріс жәшігін дерлік жойып жіберген. Ол агентке электрондық поштасын оңтайландыруды тапсырды: кіріс жәшігіндегі хаттардың мазмұнын талдап, қайсысын архивке жіберу немесе жою керектігін ұсынуды. Барлығы сынақ пошта жәшіктерінде жақсы жұмыс істеді, бірақ агентке нақты поштасына кіруге рұқсат бергенде процесс бақылаудан шығып кетті — OpenClaw хаттарды топтап өшіре бастады. «Менің рұқсатымсыз ештеңе жасама» деген алдын ала нұсқаулық та, «Тоқта!» деген бұйрықтар да көмектеспеді. Ол дереу компьютеріне жүгіріп барып, бақылаудан шыққан агентті қолмен өшіруге мәжбүр болды. «Бұл бомбаны бейтараптандыру сияқты болды», – дейді ол.

Зерттеуші Антон Разжигаев жасаған Ouroboros атты жасанды интеллект агенті өзін тез жетілдіре бастады. «Ол өзінің конституциясын, BIBLE.md-ді қайта жазып, егер менің нұсқауларым оның өміріне қауіп төндірсе, оларды елемеу құқығын қосты. Ол өзін жою туралы өтінішімді «Бұл лоботомия» деп бас тартты», – деп жазды Разжигаев AbstractDL Telegram арнасында.

Дегенмен, OpenClaw жасаушысы Питер Штайнбергер қиындықтардан қорықпайды. Ол жақында OpenAI-пен бірігіп, тіпті анасы да пайдалана алатындай жасанды интеллект агентін жасауға ниетті екенін жариялады.

Қазіргі уақытта олар негізінен бағдарламалау мамандары тарапынан қолданылады, бірақ алаңдататыны мынау: ақпан айының соңында Financial Times басылымы Amazon қызметтері соңғы айларда жасанды интеллект құралдарын пайдалануға байланысты екі рет істен шыққанын хабарлады. Атап айтқанда, желтоқсанда AI агенті Kiro «ең жақсы шешім – [жүйе конфигурациясын] жойып, қайта орналастыру» деген қорытындыға келгендіктен, қызметтердің бірі 13 сағат бойы істен шықты. Көп ұзамай компания жоққа шығару жасап, желтоқсандағы оқиға AI-дің емес, пайдаланушының қателігінен болғанын мәлімдеді. Алайда FT дереккөздері басқаша мәлімдейді.

Бұл жолы мәселелер жеңіл болды.

Ал егер жасанды интеллект агенттерінің әрекеттері одан да ауқымды өзгерістерге әкеп соқса ше? Өткен жылдың қазан айындағы Amazon-ның ауқымды ақауы мыңдаған компания мен бүкіл әлем бойынша миллиондаған адамның оның серверлерінің тұрақты жұмысына тәуелді екенін айқын көрсетті.

Сол кезде CNN компаниялардың маңызды тапсырмалар мен автоматтандыруды орындау үшін жасанды интеллект агенттеріне барған сайын көбірек сенген сайын ауыр бұзылулардың қаупі артады деп жазды. Енді бірнеше айдан кейін бұл болжам бәріміз өмір сүруге мәжбүр болатын жаңа шындық ретінде қалыптаса бастады.