«Дарио дұрыс айтады»: Маск пен Алтман Anthropic компаниясының бас директорының жасанды интеллектті дамытуды баяулату жөніндегі үндеуін қолдады.
Жасанды интеллект саласындағы жетекші бәсекелестер жағдайдың жаман жаққа қарай даму қаупін барынша азайту қажеттігіне келіседі.
Егер жасанды интеллекттің даму қарқыны бәсеңдетілмесе, агенттер легі 6–12 айдың ішінде бүкіл интернетті басып алуға қабілетті болуы мүмкін, деп ескертті Anthropic компаниясының басшысы / Фото: youtube.com / wef
Жасанды интеллект саласындағы ең ірі компаниялардың басшылары — Anthropic компаниясының өкілі Дарио Амодей, OpenAI-дың Сэм Альтман мен xAI-дың Илон Маск ең озық жасанды интеллект модельдерін дамытуды өсіп келе жатқан тәуекелдерге байланысты баяулату керек деген пікірді бөлісетінін ашық білдірді.
Апаттық зақым
12 қыркүйекте Амодей егжей-тегжейлі блог жазбасында «катастрофалық зиян» қаупін азайту мақсатында сала өкілдерін жетілдірілген модельдерді дамытуды баяулатуға шақырды. Оның алаңдаушылығына сәйкес, жасанды интеллекттің даму қарқыны жеделдегенін ескере отырып, бар болғаны 6–12 айдың ішінде шілдеде стартап Hugging Face-ке шабуыл жасаған агенттерге ұқсас агенттер легі пайда болуы мүмкін «бүкіл интернетті басып алуға қабілетті» болуы мүмкін, бұл жүздеген миллиард долларлық шығынға әкелуі ықтимал.
«Біз жасанды интеллект модельдерінің мүмкіндіктерін жетілдіру қарқынын бәсеңдетуіміз керек», – деп жазды Anthropic компаниясының басшысы. «Өрлеу әлі де жылдам болып көрінеді, және осы бәсеңдеу нәтижесінде қолымызға түскен уақытты ақылмен пайдалануымыз қажет».
Егер бұл баяулау AI модельдерінің критикалық жоғары деңгейге жетуіне дейін бізге қосымша бір-екі жыл уақыт берсе, және компаниялар осы уақытты жасанды интеллектіні адам құндылықтарына сәйкестендіру бойынша зерттеулер жүргізуге пайдаланса, онда «өте ауыр қателіктердің болу қаупін айтарлықтай азайтуға» болады, – деді Амодей.
Anthropic компаниясының бас директорының айтуынша, тәуелсіз бағалаушыларға жүйелерге қызметкер деңгейіндегі қолжетімділік беріледі, осылайша олар қауіпсіздік шараларының талаптарына сәйкестігін тексеріп, оқиғаларды хабарлап, модельдердің оқыту процесіндегі тұрақтылығын бағалай алады. Сонымен қатар, ол үйлестірілген үзіліс үшін АҚШ-тағы бәсекелестікке қарсы реттеулерді жеңілдету қажет екенін, компанияларға белгілі бір салаларда әрекеттерін үйлестіруге және Қытаймен ынтымақтастыққа мүмкіндік беру керектігін атап өтті. Оның пікірінше, егер АҚШ Пекин де ұқсас қадам жасайды деген үмітпен өздерінің жасанды интеллект мүмкіндіктерін қатты шектесе, ал Пекин оған қосылмаса, бұл Қытайдың геосаяси үстемдігіне әкелуі мүмкін.
Амодейдің бәсекелестері қалай әрекет етті?
«Дарио дұрыс айтады», – деп жауап берді xAI жасанды интеллект компаниясының негізін қалаушысы және OpenAI-дың құрылтайшыларының бірі Илон Маск оның жазбасына.
Мен Дариомен келісемін: біз озық жасанды интеллект модельдерінің даму қарқынын реттеуіміз керек. Соңғы бірнеше аптада бұл OpenAI-дегі талқылауларымыздың басты тақырыптарының бірі болды. Тәуелсіз сарапшыларды тарту және оларға жүйелерге біздің қызметкерлермен тең деңгейде қолжетімділік беру идеясы өте жақсы. Біз де дәл солай жасаймыз. Жақында осы туралы толығырақ мәлімет береміз», – деп жазды OpenAI бас директоры Сэм Альтман X әлеуметтік желісінде.
Контекст
Үш ірі жасанды интеллект компаниясының бас директорлары бірнеше жыл бойы жасанды интеллектке байланысты тәуекелдер туралы ескертіп келеді. Алайда іс жүзінде бұл аса бәсекеге толы салада дамудың үйлестірілген бәсеңдеуі бұрын-соңды болмаған жағдай, себебі тарих бойында пайдаланушылардың белсенділігін арттыру, нарық үлесін ұлғайту және сатылымды көбейту мақсатында бір өнімді екіншісінің артынан шығарып келген, – деп жазады Bloomberg.
Дегенмен, жасанды интеллекттің туғызатын тәуекелдеріне қатысты алаңдаушылық соңғы күндері күшейіп кетті, бұл ішінара Anthropic компаниясының зерттеушісі әрі бұрынғы OpenAI қызметкері Джейкоб Коксонның көпшілікке танымал жұмыстан босатылуымен байланысты. 9 қыркүйекте ол бұрынғы жұмыс берушілерін суперинтеллектуалды жасанды интеллектіні дамыту арқылы «біздің өмірімізбен ойнаумен» айыптады. Anthropic компаниясының қазіргі қызметкері Эван Хабингер жауап ретінде жазғандай, оның бағалауы бойынша келесі онжылдықта жасанды интеллект «барлық адамды өлтіруі» мүмкіндігі 10 пайыздан асады. Шілдеде жетекші жасанды интеллект компанияларының мыңнан астам қызметкері АҚШ билігінен технологиялық даму қарқынын әдейі баяулату механизмін қолдауды сұраған өтінішхатқа қол қойды.
Бұл алаңдаушылықтар бұрынғы оқиғалардан да күшейе түседі. Сәуірде Anthropic өзінің озық Mythos моделін кеңінен таратуды тоқтатты, оны мыңдаған бұрын белгісіз болған осалдықтарды тауып, сынақ ортасынан қашуға тырыса алатын қабілетіне байланысты тым қауіпті деп сипаттады. Тамызда OpenAI Astra моделі бойынша ішкі жұмысының бір бөлігін тоқтатты, себебі ол киберқауіпсіздік саласында күтпегендей жоғары мүмкіндіктер көрсетіп, осалдықтарды өз бетінше іздеп тауып, пайдалану шегіне жақындап қалған болуы мүмкін екені анықталды.
