«Мен пессимист емеспін»: Сэм Альтман ақ жағалы қызметкерлер, жасанды интеллект автократиясы және қытайлық гегемония туралы

Жұмыс орындары технологиялық жетістіктер салдарынан толықтай жойылып кетпейді, деді OpenAI-дың негізін қалаушылардың бірі Сэм Альтман The Indian Express басылымына AI Impact саммитінің шетінде берген сұхбатында. Oninvest AI Impact саммитінің шетінде The Indian Express басылымына берген сұхбатында жасанды интеллекттің еңбек нарығына қалай әсер ететіні, суперинтеллекттің адамзатқа қауіп төндіруі мүмкіндігі және қытайлық адам тәрізді роботтардың Америка Құрама Штаттарын басып алуы ықтималдығы туралы оның мәлімдемелерін жинақтады.

Біз жасанды суперинтеллектке (ASI) небәрі бірнеше жыл қашықтықтамыз. Жасанды интеллекттің (AI) бізді жеделдетіп жатқанын ескерсек, суперинтеллект жақын арада пайда болады деп ойлаймын. Ал жасанды жалпы интеллект (AGI) шынымен де өте жақын сияқты.

Бір жыл бұрын жасанды интеллект орта мектеп деңгейіндегі математикалық есептерді шешіп, адамдар оны «он бірінші сынып оқушысы» деп таң қалдырды. Өткен жазда ол әлемдегі ең күрделі олимпиадаларда да жоғары нәтиже көрсетті. Өткен аптада First Proof жобасында біздің модель бұрын жауаптары табылмаған он жаңа зерттеу мәселесінің жетісін дұрыс шешті. Тек бір жылдың ішінде жасанды интеллект мектептегі жетістіктен академиялық деңгейде ашылулар жасау қабілетіне дейін өсті. Бұл таңғаларлық секіріс: біз дарынды мектеп оқушысының мүмкіндіктерінен адамзат білімінің шекараларын кеңейтуге көштік.

Өзгерістердің ауқымын жоққа шығарудың мәні жоқ: қоғамның инерциясына байланысты олар біраз уақытты алады, бірақ ауқымды болады. Кез келген ілгерілеу сияқты, біз жаңа кәсіптерді табамыз. Мен пессимист емеспін — жұмыс көп болады. Бұрынғы революциялар да паника тудырды, бірақ олар әрдайым жұмыс орындарын жасады. Біз бәріміз белгісіз мерзімге демалысқа шығамыз деген ой ешқашан расталған емес.

Көптеген мамандықтар қазіргі түрінде жойылып кетеді, бірақ адамдар бейімделіп, жаңа мамандықтар табады. Мен код жазуды үйренген тәсілім негізінен ескірді. Бұл біздің жұмысымыз жойылады дегенді білдірмейді, бірақ C++ тілінде кодты қолмен жазу – өткеннің еншісіндегі нәрсе. Бұл көптеген салаларда да осылай болады: ескі форматтар жаңа нәрсеге жол береді. Алайда жасанды интеллектпен жұмыс істеу дағдылары, төзімділік, бейімделгіштік, адамдардың не қалайтынын түсіну және оларға қалай пайдалы болу керектігін білу, сондай-ақ командада жұмыс істеу қабілеттері әрдайым сұраныста болады.

Адамдар әлі де маңызды болып қала береді. Жуырда ауруханаға түсуге тура келді, онда медбике мені күтіп-баптады. Егер оны робот жасаған болса, қаншалықты ақылды болғанына қарамастан, мен қатты ренжіген болар едім.

IT индустриясы өте либертариандық ұстанымдардан басталды: «Бізге үкімет қажет емес, үкіметке біз қажет емеспіз». Бірақ қазір мен инфрақұрылымды дамытуда үкіметтің қатысуы маңызды деп ойлаймын. Бұл технологияны демократияландыру қажеттігін ескере отырып, үкіметтер қатысуға мәжбүр болады, ал біз сияқты компаниялар олармен ынтымақтастық жасауға тиіс.

Әлемде бір ғана супер-интеллект болмауы тиіс. Оған ешбір жеке тұлға, компания немесе мемлекет, соның ішінде АҚШ та, жалғыз бақылау жүргізуге құқығы жоқ. Әлем биліктің кең таралуы мен күштердің теңгерімі арқылы ең жақсы жұмыс істейді, бұл бір-бірімізді тежеп отыруға мүмкіндік береді. Мұндай ортада адамдар ақырында ең жақсы идеяларды таңдап, олар үстем болады. Біз әлемді бір ғана жасанды интеллект басқаруына жол бере алмаймыз, оны кім басқарса да.

Жасанды интеллекттің зор билікті шоғырландыратын әлемін елестетуге болады, онда бір компания немесе мемлекет технологияны ықпал мен байлықты жинау үшін пайдаланады. Баршаға арналған суперинтеллект, ережелердің болмауы және хаос жағдайын да елестетуге болады. Осы екі шектің арасында көптеген нұсқалар бар. Жеке өзім демократияландырылған нұсқаның жақсы екеніне сенемін. Бізге реттеу мен қорғаныс кедергілері қажет, бірақ мен бұл технологияны көптеген адамдардың қолына беруге болатынына сенемін. Бұл экономикалық биліктің орталықсыздандырылуына әкеледі.

Менің ойымша, қазіргі уақытта жасанды интеллектіні реттеу тұрғысынан дұрыс жолға түскен бірде-бір ел жоқ. Әртүрлі елдер әртүрлі тәсілдерді сынап жатыр, және бұл – көптеген егеменді мемлекеттер бар әлемнің артықшылығы. Алдағы жылдары біз стратегиялардың алуан түрлілігін көріп, қайсысы тиімді, қайсысы тиімсіз екенін анықтаймыз. Меніңше, әлем үздік тәжірибелерді тез арада кеңейтеді.

Қытай кейбір салаларда әлдеқайда алда, ал басқаларында мүлде артта қалып отыр. Бұл клише естіледі, мен келісемін. Электр қозғалтқыштары мен магниттердегі артықшылығы арқасында олар робот өндірісінде көшбасшы. Энергияны қолдануда да олар алда. Бірақ біз алда тұрған салалар да бар. Барлық бағытта бір уақытта алда болу да, артта қалу да қиын. Әлемде жалғыз суперинтеллектке ие болмасаң, бұл мүмкін емес.

Қытайдың үстемдігінде не қорқынышты? Қытай әскері көшелермен жүріп өтіп, АҚШ әскерін талқандайтын бір миллиард адам тәрізді робот жібереді деген ойдан шығарылған қорқыныш бар. Шынайы қорқыныш – адамдарға ықпал ету және маңызды инфрақұрылымды бұзу арқылы интернетте жүргізілетін жаңа түрдегі соғыс. Бұл мүлде мүмкін сияқты.

[Неліктен мен OpenAI-да үлес алмауға шешім қабылдадым?] Біз коммерциялық емес ұйым болдық, және ережелерге сәйкес директорлар кеңесіне кіру үшін «қызығушылық танытпайтын тарап» болуыңыз керек еді. Сол кезде мен мансабымда табысты болып, «маған бәрібір» деп ойладым. Бұл менің өмірімдегі ең ақымақ шешімдердің бірі болды, ал мен ондай шешімдерді көп қабылдадым.

Мен ешқашан одан бақытты болу жолын сұрамас едім. Оның орнына мен дана адамға жүгінер едім. Мен ChatGPT-тің өмір философиясын қабылдауға әзір емеспін.