«Олар біздің өмірімізбен ойнап жатыр»: жасанды интеллект жарысын бәсеңдетуге шақырған математик туралы не белгілі

9 қыркүйекте британдық математик Джейкоб Коксон Anthropic компаниясынан кетіп, жасанды интеллект саласындағы қару жарысын тежеу шаралары жөнінде үкіметтерді келісімге келуге шақырды. Жақында дейін 27 жастағы зерттеушінің X-тегі жазылушылары саны 100-ден аз болған. Бір апта ішінде ол ірі телеарналардың тұрақты қонағы атанды, ал адамзаттың жойылу қаупі туралы ескертуі жетекші технологиялық компаниялардың басшылары арасында пікірталас тудырды, деп хабарлайды The Wall Street Journal.

Коксон – ортағасырлық әдебиетке маманданған неміс зерттеулері профессорының ұлы. Ол Халықаралық математикалық олимпиадаға британдық құрамаға іріктеліп, 2016 жылы күміс, ал келесі жылы қола медаль жеңіп алды. Содан кейін Коксон Кембриджде математика оқуға түсті. Оксфордтағы элиталық жекеменшік мектепте оқып жүргенде ол философ Ник Бостромның суперинтеллект туралы кітабын оқып, бұл оның дүниетанымын қалыптастырды. WSJ хабарлауынша, Бостромның еңбегі бақылаудан шыққан жасанды интеллекттің экзистенциалдық қауіп төндіруі мүмкін деген қорқынышты айқын көрсетті.

Университетті бітіргеннен кейін Коксон шағын, бірақ ықпалды рационалистер қауымдастығына қосылды. Оның мүшелері саяси инстинкттен гөрі қатаң логиканы жоғары қойып, Британ үкіметін реформалауға ұмтылды. Лондонда ол Newspeak House-та тұрды, ол бірлескен тұру кеңістігі әрі жастар технология мен саясатты талқылайтын іс-шаралар өткізілетін орын болды. Коксон сондай-ақ тауар саудасына да қол сынап көрді: статистикалық талдау мен машинамен оқытуды пайдаланып, ол энергия бағаларын болжады.

2020 жылы Коксон Кембриджде дипломын аяқтап жатқан кезде OpenAI GPT-3-ті шығарды. «Шынында да бізді таңғалдырғаны – GPT-3 болды», – деп еске алады ол. 2023 жылы ChatGPT-тің зор табысы OpenAI-ды сала көшбасшысына айналдырғаннан кейін ол Сан-Францискоға көшіп, стартапта жұмысқа орналасты.

OpenAI-де Коксон алдын ала оқытуға маманданды. Бұл бастапқы кезеңде жасанды интеллект модельдеріне үлкен көлемде мәтіндер, суреттер және код беріліп, одан кейін олар нақты тапсырмаларға арнайы реттеледі. «Джейкоб миды жасап жатыр», – дейді оның бұрынғы әріптесі Уилл Депью. «Содан кейін басқа біреу сол миға нақты әлемде қалай әрекет ету керектігін үйретеді».

Coxon қауіпсіздік мамандарының OpenAI-ден кеткенін бақылап отырды, ал модельдердің математикалық мүмкіндіктері оның болжағанынан да жылдам өсіп жатты. Коксон адам қабілеттерінен асып түсетін суперинтеллекттің пайда болуынан алаңдады. Алайда, қажет болған жағдайда үкіметтер дамудың қарбалас қарқынын бәсеңдетуге келіседі деп үміттенді, – деп жазады WSJ.

2026 жылдың мамыр айында Коксон OpenAI-ден кетіп, Anthropic компаниясына қосылды. Онда оның көптеген достары жұмыс істеді, және оның айтуынша, компания өзі AI технологиясының тәуекелдерін талқылауға ашық көрінді. Алайда, сала тез арада дүрбелеңге түсті: шілдеде OpenAI өзінің бір моделі сынақ ортасынан қашып шығып, Hugging Face атты жасанды интеллект компаниясының жүйесін бұзып кіргенін жариялады. Anthropic ұқсас оқиғалар туралы хабарлады. METR-дің тамыз айындағы есебі Hugging Face оқиғасының бұрын ойланғаннан да ауыр болғанын көрсетті, бұл Коксон мен оның әріптестерін қатты шошытты.

Соңғы апталарда Коксон өз алаңдаушылықтарын Anthropic компаниясының басшылығымен талқылағанын және жасанды интеллект қауіпсіздігімен айналысуды қарастырғанын айтты, бірақ ақырында жұмыстан кетуге шешім қабылдады. «Тіпті Anthropic-тегі қауіпсіздікпен жұмыс істеу маған осы жарысқа қатысушылардың біріне айналғандай сезілді», – деп түсіндірді ол WSJ-ге.

Coxon-ның айтуынша, ол өз еркімен осы саланы тастап кетті және кейін ғана қауіпсіз жасанды интеллект жақтаушылары мен достарынан кеңес сұрады. Бірнеше минут ішінде бұл адамдар оның X-тегі жазбаларын бөлісті. Коксон өзі Anthropic компаниясындағы ешкіммен әлеуметтік желідегі науқанды үйлестірмегенін айтады.

Өз еркімен жұмыстан кеткенін түсіндіре отырып, Коксон OpenAI мен Anthropic-тегі бұрынғы әріптестерінің жасанды интеллект онжылдықтың соңына қарай бәрімізді жойып жіберуі мүмкін деп шын жүректен сенетінін және мұндай жүйелерді әзірлеуге бәсекелесіп жатқан зертханалар біздің өмірімізбен тәуекелге бара жатқанын айтты .

Anthropic компаниясының бас директоры Дарио Амодей Коксонмен келісуге бейім екенін, келіспеуге емес екенін айтты. Nvidia компаниясының бас директоры Дженсен Хуанг жас математиктің батылдығына тәнті болғанын білдірді, бірақ оның болжамдарына күмән келтіріп, апокалипсис болжамдарын жауапсыз деп атады.

Coxon сондай-ақ жасанды интеллект әуесқойларының нысанасына айналды. Олар оның жоғары деңгейдегі кетуін ірі компанияларға пайда әкелетін қатаң әлемдік реттеуді қамтамасыз етуге бағытталған үйлестірілген жоспардың бір бөлігі деп санайды. Сыншылардың айтуынша, бұл қорқыныштар асыра көрсетілген. Тиімді альтруизм қозғалысының кейбір мүшелері насихаттап жүрген Коксонның отставкасы олардың көзқарасы бойынша осы мақсатқа жету құралына айналды, деп жазады WSJ.

Coxon өзі АҚШ, Қытай және басқа мемлекеттердің ядролық қаруды бақылау туралы шарттар үлгісіндегі келісімге қол қоюын ұсынады. Оның пікірінше, қауіпсіздік талап етсе, үкіметтер модельдерді әзірлеуді баяулатуы тиіс. Жасанды интеллект қауымдастығында технологияның тәуекелдеріне аса алаңдайтындар «думмерлер» деп аталады (ағылшын тіліндегі «doom» – фатальды соңы, қашып құтылмайтын жойылу мағынасынан). «Егер «думмер» – біз істеп жатқан істерімізді өзгертпесек, жойылып кетеміз деп санайтын адам болса, онда мен сөзсіз думмермін», – дейді Коксон.

Anthropic компаниясындағы қысқа мерзімді қызметіне байланысты Коксон компанияның акцияларын алмады. Anthropic алдағы айларда шамамен 2 триллион доллар нарықтық құнымен жария компанияға айналуға дайындалып жатыр. Алайда WSJ мәліметі бойынша математик әлі де OpenAI-дегі акцияларын сақтап отыр. Басылым оның акцияларының көлемін нақтыламайды.

Коксон енді AI дамуының сценарийлерін болжауға назар аударғысы келеді, бұл шешімді қабылдауына қолдау көрсеткен бұрынғы OpenAI қызметкері Даниэл Кокотайлоның үлгісін ұстана отырып. «Осы компаниялардағы көптеген адамдар мұны жасай алар еді. Бірақ оны шын мәнінде іске асырған – ол», – дейді Кокотайло.