Сэм Альтманның екі қорқынышы: бақылаудан шыққан жасанды интеллект және «мейірімді диктаторлар»
OpenAI басшысы қоғамның маңызды шешімдерді қабылдау үстіндегі бақылауды мәңгілікке жоғалтуы мүмкін жағдайдан қорқады.
Альтманның ойынша, жасанды интеллект әлі өзінің «iPhone сәтін» бастан кешірген жоқ / Скриншот: Дэвид Сенра / Сэм Альтман «OpenAI құру және мүмкін емес нәрсеге бәс тігу» туралы / YouTube
OpenAI компаниясының бас директоры Сэм Альтман жасанды интеллект экономика мен біздің өмірімізді өз моделдерінің даму қарқынынан әлдеқайда баяу өзгертеді деп есептейді. Ол жасанды интеллекттің таралу қарқынын қате бағалағанын жоққа шығармайды: технология алып секіріс жасады, бірақ адамдардың әдеттері консервативті болып шықты. Күнделікті компьютерлік жұмыс әлі көп өзгерген жоқ, ал компаниялар тапсырмаларды алгоритмдерге беруге асықпайды. Дэвид Сенраның подкастында Алтман бұл үзілістің әлем үшін неге пайдалы екенін, нейрондық желілердің шағын бизнестің өрлеуіне қалай түрткі болатынын және технологиялық прогрестің қай жерден диктатураға ұласатынын түсіндірді.
«iPhone сәтін» күту
Сэм Альтманның айтуынша, жасанды интеллект технология ұсынған жаңа мүмкіндіктерге бизнес бейімделе алатын жылдамдықтан да жылдамырақ дамып келеді. 2023 жылы GPT-4 іске қосылғаннан кейін ол бағдарламалық қамтамасыз ету нарығы әлдеқайда жылдам өзгере бастайды деп күтті. Алайда экономикалық инерция күштірек болып шықты: адамдар әдеттенген құралдарды пайдалануды жалғастырып, сол компаниялардың өнімдерін сатып алады.
Менің ойымша, көптеген жағынан бұл шын мәнінде оң жайт, және ол алдағы ауқымды ауысымның анағұрлым бірқалыпты әрі біртіндеп өтетінін білдіреді. Мен бұл жайтқа шын мәнінде қатты қуаныштымын. Бірақ бұл біз бәріміз өзгеріс қарқынын тым асыра бағалағанымызды білдіреді. Тіпті осындай керемет технология болса да — мен жасанды интеллектіні адамзат тарихындағы ең таңғажайып технологиялардың бірі деп есептеймін — қоғам мен экономика баяу бейімделеді.
Альтман өзі әлі де әдеті бойынша соңғы 20 жыл бойы пайдаланғандай компьютерді сол күйінде қолданатынын мойындайды: ол электрондық пошталарын қолмен сұрыптап, бағдарламалар арасында ақпаратты тасымалдап, істеуге тиісті істер тізімін жүргізеді, тіпті AI кодпен жұмыс істейтін Codex агенті осы тапсырмалардың едәуір бөлігін әлдеқайда жылдам орындай алатын болса да.
Альтманның пікірінше, мәселе тек пайдаланушылардың әдеттерінде ғана емес: жасанды интеллект өнімдері әлі күнге дейін қалыпты компьютерлік жұмыстан тапсырмаларды агентке беруге айқын ауысу мүмкіндігін ұсынбайды. Адамдар таныс құралдарын да, Codex-ті де бір уақытта пайдаланады — және қай әдістің қай тапсырмаға ең қолайлы екенін әрдайым түсінбейді.
Альтман жасанды интеллекттің қазіргі даму кезеңін 2000-жылдардың басындағы смартфондармен салыстырады. Сол кезде қажетті технологиялардың көбі бар еді, бірақ өнім идеялары мен мультитач сияқты жекелеген инновациялар жетіспейтін, олар кейіннен адамдардың смартфондармен өзара әрекеттесу тәсілін түбегейлі өзгертті.
Маған қазіргі әлемде барлық технологиялық құрамдас бөліктер бар сияқты, бірақ біз әлі «iPhone сәтін» бастан кешірген жоқпыз – адамдардың технологиямен өзара әрекеттесу тәсілін түбегейлі өзгертетін сол сәт.
Альтман әлеуметтік инерцияны кемшілік деп санамайды. Өнеркәсіптік революцияны қоса алғанда, технологиялық революциялардың тарихы тез өзгерістердің сирек қарсылықсыз қабылданатынын көрсетеді. Оның пікірінше, бұл күдік табиғи қорғаныс қызметін атқарады: ол қоғамның толқу кезеңдерінде және қысқа мерзімді шулы қызығушылық кезінде реакциясын бәсеңдетеді, сондықтан жаңа технологияларды кез келген бағамен жеделдетіп енгізуге тырысудың қажеті жоқ.
Менің ойымша, бұл қоғамға толқу кезеңдерінде немесе қандай да бір жергілікті ессіздік ортасында көмектеседі. Сондықтан бір жағынан бұл шынымен де жақсы нәрсе және менің пікірімше, оны тым агрессивті түрде қарсы тұруға тырыспаған жөн адам биологиясының бір ерекшелігі.
Дегенмен, Альтман қоғам жай ғана жасанды интеллекттің дамуына келісіп қояды деп есептемейді. Оның пікірінше, адамдар жасанды интеллектпен өзара әрекеттесу тәжірибесін жинауы керек, ал әзірлеушілер туындайтын мәселелерді анықтап, сол негізде модельдерді өзгертіп, олардың қауіпсіздігін жақсартуы тиіс.
Микробизнес пен «алгоритмсіз» компаниялардың өрлеуі
Альтман AI таралуының экономикалық салдарының бірі ретінде шағын компаниялар санының күрт өсуі мүмкін екенін айтады. Оның айтуынша, мұндай бизнесті бастау үшін әдетте ақша, сәттілік және ресурстарға қолжетімділік қажет болатын. Ол жасанды интеллект өз өнімдері мен компанияларын құруды қалайтын адамдарға әлдеқайда көп мүмкіндіктер ашады және бұл тарихта шағын бизнестің ең ірі өрлеуіне әкелуі мүмкін деп есептейді.
Альтманның ойынша, жасанды интеллект шағын бизнес ашуға кедергілерді айтарлықтай азайтады. Қазірге дейін бизнес бастау үшін едәуір ресурстар, сәттілік пен белгілі бір артықшылықтар қажет болды; Енді оның пікірінше, технология кәсіпкерлікті әлдеқайда көп адамға қолжетімді ете алады. Ол бұл тарихтағы ең ірі шағын бизнес бумына әкелуі мүмкін деп есептейді.
«Адамдарға жаңа нәрсе жасауға, өздеріне сенген істерді қолдауға, компаниялар құруға, технологиялар ойлап табуға, идеяларды дамытуға шынайы мүмкіндік беру — және мұны жүзеге асыратын бүкіл экожүйе — мен үшін бұдан да маңызды ештеңе жоқ..
Альтманның айтуынша, шағын бизнес үшін жасанды интеллекттің әлеуеті әзірге тек жартылай ғана жүзеге асты: жаңа компанияларды іске қосу процесін шынымен жеңілдететін құралдар әлі де жеткіліксіз. Дегенмен, Альтман OpenAI өз клиенттерімен бәсекелеспеуі және бүкіл экономиканы басып алуға ұмтылмауы керек деп есептейді. Оның рөлі – AI модельдеріне API арқылы қол жеткізуді қамтамасыз ету, осылайша кәсіпорындар оларды қажетті қызметтерді жасау үшін пайдалана алады. Altman сенімді: 100 миллион жаңа компания OpenAI-ды пайдаланады.
Альтманның айтуынша, жасанды интеллект тек еңбек нарығы мен бизнес мүмкіндіктерін ғана емес, сонымен бірге адамдар арасындағы қарым-қатынастың құндылығын да өзгертеді. Көптеген мамандықтар айтарлықтай өзгерістерге ұшырауы мүмкін; алайда ол одан да дамыған жасанды интеллект әлемінде жеке байланыс пен адам арасындағы қарым-қатынасқа негізделген барлық нәрселер одан да құнды болатынына сенеді.
Осы себепті Алтман шынайы, технологияға негізделмеген тәжірибелерге — мысалы, спортқа — сұраныстың өсетініне үміттенеді. Оның пікірінше, жасанды интеллект дамыған сайын, AI-мен мүлде байланысы жоқ кейбір бизнестер үшін адамдардың назарын аудару оңайырақ болады.
Сэм Альтманның екі қорқынышы
Альтман бала кезінен бастап жасанды интеллект идеясы — адамның мүмкіндіктерін түбегейлі кеңейте алатын технология ретінде — оны қатты қызықтырғанын түсіндірді. Ол адамдарға жаңалық енгізуге және маңызды мәселелерді шешуге мүмкіндік беретін құрал жасау мүмкіндігіне тәнті болды.
Сондықтан Альтман жасанды интеллекттің дамуы адамның бақылауын жоғалтуға немесе биліктің бір компанияның қолында тым шоғырлануына әкелмеуі маңызды деп санайды. Қазіргі уақытта ол ең қатты екі ықтимал сценарийге алаңдайды: немесе жасанды интеллект соншалықты қуатты болады, адамдар оны бақылай алмай қалады, немесе технологияның дамуы бір компанияның, бір модельдің немесе бір адамның қолында билікті шамадан тыс шоғырландыруға әкеледі.
Осы сценарийлердің кез келгенін қабылдау – аса адамгершілікке жат ұстаным. Дұрыс тәсіл – адамдардың болашаққа толық бақылау жасауын жариялау. Біз адамдардың өкілеті мен мүмкіндіктерінің көбеюін қалаймыз. Әйтеуір, болып жатқан барлық нәрсенің себебі – адамдар. Адамдарға сенбейміз немесе оларды ұнатпаймыз деген сылтаумен біз бақылауды біртіндеп жасанды интеллектіге тапсырмаймыз.
Альтман жасанды интеллект қауіпсіздігі билікті шоғырландыру үшін сылтауға айналуы мүмкін екенін ескертеді: бірнеше компанияға технологияға кімнің және қандай шарттармен қол жеткізетінін шешу құқығы беріледі. Осы жағдайда қоғам жасанды интеллекттің артықшылықтарын — ауруларды емдеуден бастап арзанырақ тауарларға дейін — пайдалана алады, бірақ болашаққа қатысты кейбір шешімдер басқалардың қолына шоғырланады.
Мен аз ғана адамдар тобы немесе жүйелер баршаға шешім қабылдайтын әлемде өмір сүргім келмейді. Осының бәрі мынадай ұрандардан тұрады: «Құрметті шаруалар, біз сіздерге қатерлі ісікке қарсы ем, материалдық әл-ауқат, бірнеше жеңілдік пен тамаша ойын-сауық» – «сондықтан шағымдануды қойыңдар, ал болашаққа қатысты барлық шешімдерді өзіміз қабылдаймыз; бізге сеніңдер, біз мейірімді диктаторлар боламыз». Онда ештеңе де жақсы емес. Мүлде ештеңе де жақсы емес.
