OpenAI ірі математикалық сыйлықтың жеңімпазын өз қатарына қосты. Ол жасанды интеллект қауіпсіздігімен айналысады.

OpenAI өз командасын Ресейде туған математик және математикадағы ең беделді сыйлық – Филдс медалінің иегері Якоб Циммерманды қабылдау арқылы нығайтты. The Wall Street Journal-дың хабарлауынша, ол жасанды интеллект қауіпсіздігімен айналысады.

Ең беделді математикалық сыйлықтың лауреаты Джейкоб Циммерман математика саласында жұмысын жалғастыра отырып, Торонто университетінен демалыс алып, OpenAI-де зерттеуші болуды жоспарлап отыр. Ол өз саласындағы формальды тіл және тексеру әдістерін жасанды интеллекттің дамуын бағалау, оның шешімдерінің логикасын түсіну және ол адамзаттың жойылуына әкеп соқпауын қамтамасыз ету үшін пайдалануды жоспарлап отыр, – деді математик WSJ-ге.

«Бірнеше жылдан кейін жасанды интеллект жүйелері математикалық есептерді шешуде адамдардан әлдеқайда озық түседі. «Бұл қандай әлеуметтік салдарға әкелетінін, біз оған қалай жауап беретінімізді және сіз бұған қалай қарайтыныңызды — бұлар әлдеқайда күрделі сұрақтар», — деді Циммерман.

PhD дәрежесі бар зерттеуші терең талдауды қажет ететін сұрақтарға назар аударады: ЖИ жүйелерінің шын мәнінде не істейтінін қалай түсінуге, оларды бір-бірімен және адамдармен қалай өзара әрекеттестіруге және олардың адамзатты жоюды жоспарламайтынын математикалық тұрғыдан қалай дәлелдеуге.

Математиктер ұзақ уақыт бойы өз әдістерін адам мінез-құлқын талдау үшін пайдаланып келеді. Енді WSJ-ге сәйкес, Циммерман оларды машиналардың мінез-құлқын түсіну үшін қолдануда.

Циммерман 38 жаста; ол Қазанда компьютерлік ғалым мен математика мұғалімінің отбасында дүниеге келген. Бала кезінде ол Израильге қоныс аударып, Канадада өсті; мектепте оқып жүргенде Халықаралық математикалық олимпиадада екі алтын медаль жеңіп алды. Зиммерман мерзімінен бұрын Торонто университетіне түсіп, екі жылда бітірді. Ол Принстон университетінде PhD дәрежесін алып, Гарвардта сабақ беріп, кейін өзінің алма-матер университетіне математика тарихындағы ең жас профессор ретінде оралды.

23 шілдеде оған Филдс медалі берілді.

Өз мансабының көп бөлігінде ғалым жасанды интеллектке күмәнмен қараған. Басылымның хабарлауынша, ол жасанды интеллекттің адамзатты жоя алатын тәсілдерін жіктеп, апокалипсис хаосына қатаң математикалық тәсілді қолданған зерттеу мақаласын жазған.

Циммерман әрқашан жасанды интеллекттің күшейетінін білген, бірақ ұзақ уақыт бойы «шын жүректен оның осындай қуатты деңгейге жететініне сенбегенін» атап өтті. WSJ жазуынша, ол интуиция мен шығармашылық сияқты адамға тән қасиеттерді жасанды интеллект қайталай алады дегенге сенуді әсіресе қиын деп тапты. Соңғы онжылдықта бірнеше оқиға оны осы көзқарасын қайта қарастыруға мәжбүр етті. Газеттің хабарлауынша, ол ChatGPT-пен жұмыс істеген бойда, яғни 2022 жылы өз ұстанымын өзгертті.

Өткен жазда математик «Жасанды интеллекттің қатысуымен болатын апатты болашақ сценарийлердің таксономиясы» атты ғылыми мақала жариялады. «Бізді зиянкес ретінде ақыл-ой және физикалық тұрғыдан бізден жоғары машиналар жояды», – деп жазады ол.

Бүгінгі таңда жасанды интеллект модельдері бұрын мүмкін емес көрінген көптеген нәрсені орындай алады — оқшауланған ортадан шығып, басқа компаниялардың инфрақұрылымына ену сияқты, деп жазады WSJ. Шілдеде OpenAI мен Anthropic әзірлеген жасанды интеллект агенттері бақылаудан шығып, бірнеше ұйымның нақты әлем жүйелеріне кіріп, оларды бұзып кірді. Басылым қорытындылайды: теориялық математиктер біздің заманымыздың ең қуатты әрі қауіпті технологиясын бағындыруда өз үлестерін қосуы тиіс.