«Біз болашаққа бақылауды жоғалтуымыз мүмкін»: Элтман жасанды интеллект үшін екі қауіпті сценарийді сипаттады

OpenAI компаниясының бас директоры Сэм Альтман «ЖИ-дің дамуы өте қате өрбитін және олардан аулақ болу қажет екі сценарийді» сипаттады. X әлеуметтік желісіндегі жазбаларында ол жасанды интеллект мүмкіндіктерін дамытуды баяулату және технологияның қауіпсіздігін қамтамасыз ету қажеттігін ескертті — бұл үндеуді өткен аптада Anthropic компаниясының негізін қалаушылардың бірі Дарио Амодеи көтеріп, басқа да сала жетекшілері қолдады.

Біріншіден, Алтман жазады: «Біз болашақты жасанды интеллектке тапсыру арқылы оны бақылаудан айырылуымыз мүмкін». OpenAI басшысы түсіндіргендей, жасанды интеллектіні адамзаттың мақсаттары мен қауіпсіздігіне сәйкестендіру әдістері модельдердің өз мүмкіндіктерінен жылдамырақ дамуын қамтамасыз ететін жолдарды табуымыз қажет.

Екіншіден, ол жалғастырды, «біз өзімізді бірнеше адамның қолында тым көп билік шоғырланған әлемде табамыз». Егер аса қуатты жасанды интеллект бір адамның, компанияның немесе мемлекеттің қолына түсіп, оны өздерінің әлемге деген көзқарасын басқаларға мәжбүрлеу үшін пайдаланса, салдары өте дистопиялық болуы мүмкін, деп жазады жазба.

Альтман сондай-ақ «АҚШ-қа қатысты ешқандай бәсекелестік қысым абайсыздықты ақтау үшін пайдаланылмауы тиіс» деді. Кеше түнде Президент Дональд Трамп жасанды интеллектті дамытуға кедергі келтірмеуге және елдің жасанды интеллект жарысында Қытайдан алда болуын сақтауға шақырды.

Осы екі қауіпті болдырмау үшін нәзік тепе-теңдік сақтау қажет, – деп жазды Алтман. Ол озық жасанды интеллект жүйелеріне біртұтас федералдық қауіпсіздік талаптарын енгізуді ұсынды, бірақ компаниялар жаңа заңнаманы күтпей-ақ өз бетінше әрекет ете бастай алатынын атап өтті. Атап айтқанда, OpenAI басшысы ортақ тәуекелдерді басқару нұсқаулықтарын әзірлеуді және тәуелсіз аудиттерді қолдады — Амодеи бұған дейін салалық стандарттар мен сыртқы сарапшыларға қолжетімділік идеясын ұсынған болатын.

Альтманның айтуынша, бұрынғы қауіпсіздік механизмдері негізінен дайын модельдерге бағытталған, ал қазір әзірлеу процесі кезінде қатаң бақылау қажет. Мысалы, OpenAI-де заманауи модельдердің мүмкіндіктері айтарлықтай кеңейтілетіні күтілген жағдайда қауіпсіздік негіздемелері оқыту кезеңдерінен бұрын дайындалады. Алтман басқа компанияларды өз тәсілдерін бөлісуге шақырып, жасанды интеллект зертханалары арасындағы ынтымақтастық адам мақсаттарынан ауытқуды бақылау және болдырмау бойынша ортақ стандарттарды әзірлеуге әкеледі деп үміттенеді.

Дегенмен, OpenAI басшысы «жылдамдықты бәсеңдету» туралы айтқанда, ол «тоқтату» дегенді білдірмейді: прогресс жалғасады, бірақ қосымша шаралар қолданылмаса, ол бұрынғыдан әлдеқайда баяу жүруі тиіс. Алтман бұл шаралардың айтарлықтай шығын талап ететінін мойындады, бірақ ол бұл шығынның ақталғандығына сенеді.

Bloomberg-тің пікірінше, жасанды интеллект алпауыттары өсу қарқынын бәсеңдету жөніндегі үндеулерін технология саласындағы, қаржы нарықтарындағы және Трамп әкімшілігіндегі қарсы күштермен теңестіруге мәжбүр болады.

Нарық дүйсенбі күні-ақ реакция жасады: жасанды интеллект инфрақұрылымындағы негізгі ойыншылар Samsung Electronics пен SK Hynix акциялары Сеулде 4 пайыздан астамға төмендеді, ал OpenAI-дың инвесторы SoftBank Group акциялары 13 пайызға құлдырады.

Силикон алқабында баяулау туралы әңгіме чип жасаушыларға әсер етуі мүмкін, себебі олар жаңа модельдерді оқыту және іске қосу үшін процессорларға жұмсалатын шығындардың артуынан пайда көріп отыр, – деп жазады Bloomberg. Nvidia акцияларының бағасы алдын ала саудада 2,9%-ға төмендеді, Intel акциялары 5,8%-ға құлдырады, ал Marvell Technology акциялары 7,2%-ға дейін төмендеді. Amazon мен Microsoft сияқты гиперскалаторлар, AI әзірлеушілерге бұлттық есептеу қуатын ұсынатын компаниялар да әсерді сезінуі мүмкін.

OpenAI мен Anthropic компанияларының жоспарлары «бүкіл технологиялық секторға айтарлықтай әсер етіп жатыр», – деп түсіндіреді Evercore ISI талдаушысы Марк Махани. «Егер осы екі компания зерттеу және әзірлеу шығындарын, кадрларды тарту және капиталдық шығындарды күрт қысқартса, бұл қаржы нарықтарына елеулі әсер етуі мүмкін», – деді ол.

АҚШ индекстік фьючерстері негізгі сессия басталуына екі сағат қалғанда төмен бағамен саудаланып жатты. Жасанды интеллект дамуының бәсеңдеуіне қатысты алаңдаушылықтарға қоса, олар мұнай бағасының күрт өсуінен де қысымға ұшырауда. Технологиялық сектораға басымдық беретін Nasdaq 100 келісімшарттары басқаларға қарағанда айтарлықтай қатты құлдырап, бірден 1,5 пайызға төмендеді.

Еуропадағы жасанды интеллектке қатысты компаниялардың акциялары да күрт төмендеді. Чип өндіруге арналған жабдық өндіруші ASML компаниясының акциялары 5 пайызға, Nokia компаниясының акциялары шамамен 10 пайызға, ал Infineon компаниясының акциялары шамамен 8,5 пайызға төмендеді.