«Ешкім байқамайтын өзгеріс»: жасанды интеллект зерттеушісі нарықтарға қауіп төндіретінін анықтады
NostaLab зерттеу зертханасының басшысы және Google Health кеңесші кеңесінің мүшесі Джон Ностамен сұхбат
Егер инвесторлар өздерінің танымдық «бұлшықеттерін» жүйелі түрде жаттықтырмай қойса, нарық одан әрі рационалды немесе тиімді болмайды, – дейді цифрлық денсаулық сақтау саласының зерттеушісі Джон Носта. Фото жеке мұрағаттан
Жасанды интеллект AI-агенттердің қарқынды дамуымен жаңа дәуірге енуде, бұл инвесторларды адам қатысуын қажет ететін дәстүрлі бизнес-модельдерді қайта қарастыруға мәжбүр етеді.
Microsoft компаниясының бас атқарушы директоры Сатья Наделла жасанды интеллектінің дамуы компания ішіндегі процестерді ұйымдастыру тәсіліне қатысты дәстүрлі түсініктерді түбегейлі өзгертіп, оларды керісінше айналдырып жіберуде деп есептейді: Егер AI модельдері адам мен бизнестің тәжірибесін үнемі «сіңіріп», оны қоғамдық қолжетімді тауарға айналдырса, олар қалайша әрі қарай дамып, зияткерлік капитал жинап, табысқа жетеді? Ал осы уақытта ең ірі жасанды интеллект әзірлеушілерінің бірі — Anthropic — болашақта модельдер адам араласуынсыз-ақ жетілдіріле алатынын ескертіп, осы технологиялық ілгерілеудің салдарын түсінуге көбірек уақыт беру үшін жасанды интеллекттің дамуын бәсеңдетуді талап етті.
Ал егер адамдар жасанды интеллектіге көбірек сеніп, тәуелсіз шешім қабылдау қабілетінен айырылып қалса ше? Бұл инвесторларға қалай әсер етеді? Онда нарықтар осал бола түседі, – дейді жасанды интеллект пен цифрлық денсаулық сақтау саласын зерттейтін Джон Носта. Ол NostaLab технологиялық зерттеу зертханасының негізін қалаушысы және президенті, сондай-ақ Google Health кеңес беру кеңесінің мүшесі. Ностаның айтуынша, жасанды интеллектіні қолдану инвесторларға негізгі қауіп-қатерлер төндіруі мүмкін.
Оның қатысуымен өткен сұхбаттың ең басты сәттерін Oninvest мақаласынан табуға болады.
ЖИ дамыған сайын «ойлау үдерісінен бас тарту» қаупі артып келеді.
Когнитивтік бұрмаланулар — ойлау үдерісінде пайда болатын қателіктер. Инвестор эвристикаларға (анықсыздық жағдайында шешім қабылдаудың ықшамдалған стратегиясы — ред.) сүйенсе, ол бұрмалануларға тап болуы мүмкін, бірақ шешімді өзі бақылауда ұстайды. Когнитивтік капитуляция — ойлау немесе шешім қабылдау үдерісінен толық бас тарту. Адамның өзіндік ерік-жігері сыртқы көзге беріледі.
Белгісіздік жағдайында пайымдау, білмеуді көтеру, қателіктер жіберу және өз қорытындыларын қайта қарастыру қабілеті – адам болудың ең негізгі мәні. Оны жүйелі түрде басқаға тапсырғанда, біз жай ғана нашар шешімдер қабылдай бастайтын емеспіз. Біз адам қадір-қасиетімен байланысты негізгі қасиеттен бас тартып жатырмыз.
Когнитивтік берілу үйренген әлсіздіктен бұрын келеді: біртіндеп, кейде тіпті ләззатпен ойлауды сыртқа тапсырасыз, ал кейін өз ойыңызды толық саралай алу қабілетіңіз әлсіреп немесе атрофияға ұшырағанын байқайсыз. Кейіннен пайда болатын үйренген көмексіздік жеңіліс ретінде қабылданбайды — ол тиімділік ретінде бағаланады. Міне, дәл осы себепті оны анықтау соншалықты қиын.
Мен мұны адам құқықтары мәселесімен байланысты деп айтсам, асыра айтқан болармын деп ойламаймын. Адам құқықтары туралы пікірталас әрқашан адамды адам ететін нәрсеге — автономия мен өзін-өзі анықтауға негізделген. Осы функцияларды атқаратын жасанды интеллект жүйелері тек инвестициялау тәсілімізді ғана емес, сонымен бірге осы үдерісте біз кім екенімізді де өзгертіп жатыр.
Жасанды интеллект нарықтың өзін-өзі түзету қабілетіне қауіп төндіреді
Қаржы нарықтары адам ойы үшін әлдеқашан күрделі ортаға айналды, ол белгісіздік пен эмоцияға толы. Жасанды интеллект сол белгісіздікті жоюды ұсынады. Бірақ дәл осында тұзақ жатыр.
Шешім қабылданғаннан кейінгі жеңілдік (жасанды интеллект арқылы — ред.) те терең түсінік емес, те шабыт сәті емес. Бірақ дәл солай сезіледі, әсіресе жасанды интеллект моделі жақсы нәтиже көрсеткенде.
Нарықтар – аса көрнекті орта; мұнда белгісіздік кедергі емес, негізгі жағдай. Бұл, бәлкім, ең қызықты әрі бір мезгілде ең алаңдататын жайт.
Жеке деңгейде когнитивтік капитуляция ақылға қонымды айырбас сияқты көрінуі мүмкін: сіз мықты «эмоционалды үштік» артықшылықтарды аласыз — жұмыс жүктемесі жеңілдейді, тиімділік артады және мазасыздық деңгейі төмендейді. Бірақ егер осындай жеке «рационалдылықтардың» жеткілікті саны жинақталса, жүйе деңгейінде бір қатысушы да жасауға ниеттенбеген және байқай алмайтын өзгеріс орын алады.
Барлығы шешім қабылдауды ұқсас жасанды интеллект модельдеріне тапсырғанда, келісім бәсекелес адамдық бағалауларды салыстыру арқылы емес, технология арқылы қалыптасады. Нарықтарға өзін-өзі түзету қабілетін беретін алуан түрлілік инженерлік әдістермен оңай жойылуы мүмкін.
Бұл, бәлкім, негізгі әрі қайғылы Фаусттық мәміле. Нарықтарда осалдық пайда болып, күшейіп келеді. Бұл ескертуге құлақ асқан жөн.
ЖИ мен инвестор тәжірибесі: «синхрондалған соқырлық» қаупі
Әрбір инвестор нарықтан қалай күйгенін айтады, ал уақыт өте келе бұл тәжірибе интуицияға айналады. Негізгі мәселе мынада: бұл интуицияны математикалық модельге енгізу мүмкін емес, себебі ол осы барлық сабақтардың қаншалықты қымбатқа түскенін еске сақтай алмайды. Ал «шығын» деген ұғым мұнда өте мағыналы әрі пайдалы көзқарас.
Егер инвесторлар өздерінің танымдық «бұлшықеттерін» жүйелі түрде жаттықтырмаса, нарық ешқашан да рационалды немесе тиімді болмайды. Тәжірибелі трейдер интуитивті түрде байқай алатын нарықтық ауытқулар мен аномалиялар көрінбей қалады.
Әркімнің тәуекелдерді бағалауы ұқсас модельдерге негізделгенде және сол модельдер ұқсас сигналдарды өңдегенде, адамзат даналығын кеңейту мүмкіндігі болмайды. Нәтижесінде өте қауіпті болуы мүмкін синхрондалған «көзсіздік» пайда болады.
