«Сіздің жобаларыңыз уақытша тоқтатылды»: OpenAI жасанды интеллектің өсуін бәсеңдету жөніндегі жұмыстары туралы талқылайды

OpenAI компаниясының негізін қалаушы әрі президенті Грег Брокманның айтуынша, компания бірқатар озық жасанды интеллект жобаларын тоқтатқан. 14 қыркүйекте жарияланған Bloomberg пен Andreessen Horowitz-пен берген екі сұхбатында ол ChatGPT әзірлеушісі қауіпсіздік шараларын қатаңдатқандықтан, AI зертханасының бірнеше озық жобалары қазірдің өзінде тоқтатылып отырғанын түсіндірді, деп хабарлайды Business Insider.

OpenAI-дың жоғары лауазымды басшысының айтуынша, компания шілдеде өзінің озық модельдері зерттеу «құм жәшігінен» қашып шыққаннан кейін жаңа қауіпсіздік шараларын енгізді — қауіпсіз сынақ жүргізуге арналған қатаң оқшауланған виртуалды орта — және жасанды интеллект әзірлеушілеріне арналған Hugging Face платформасының инфрақұрылымын бұзып кірді.

«Біз бірқатар оқу жаттығуларын баяулаттық және көптеген процестерімізді өте ауыр қайта қарап шықтық», – деді Брокман Bloomberg-тің Odd Lots подкастында берген сұхбатында. «Дамыту процесіне ертерек араласып, оқытуды бақылап отыруымыз керек», – деді ол қауіпсіздік жұмысы туралы айтып, әрі қосты: «Әрдайым сәйкестендіру кезеңі болады (AI модельдерін оқыту және олардың мінез-құлқы, мақсаттары мен өнімділігін пайдаланушының ниеттеріне, этикалық стандарттарына және қауіпсіздік ережелеріне толық сәйкестендіру процесі). — Oninvest), бірақ сіз алғашқы кезеңде де үйлестіруді негізгі бөлік ретінде ескеруіңіз керек».

Andreessen Horowitz венчурлық капитал фирмасының a16z Show подкастындағы бөлек сұхбатында Брокман OpenAI-дың кейбір жобаларды тоқтатып, инфрақұрылымын тексеру үшін өзінің озық жасанды интеллект моделі Astra-ны енгізгенін түсіндірді критикалық осалдықтарды табуды тоқтатқанша: «Біз операциялық инженерлеріміздің 25%-ын алып, – дедік: «Кешіріңіз, барлық жобаларыңыз тоқтатылды. Енді сіз қауіпсіздікпен айналысасыз. Қауіпсіздік архитектурамыздың талаптарын көтересіз."» Сіз модельдерді пайдаланып барлық олқылықтарды табасыздар», – деді Брокман (Business Insider-ге сілтеме жасап). Осы жұмыстың нәтижесінде, оның айтуынша, компания «бірнеше маңызды мәселені анықтап, оларды шешті».

Ол Astra бағдарламасының «нөлдік басымдықтағы мәселелерді» — яғни ең шұғыл әрі ауыр қауіпсіздік осалдықтары санатын — дәл анықтай алғанын атап өтті. Алайда құрылтайшының айтуынша, алаңдаушылық тудыратын әрбір жаңа модель үшін бұл мәселелерді анықтау үдерісін қайтадан жүргізуге тура келеді.

Брокманның пікірлері озық жасанды интеллект әзірлеуші компаниялардың қаншалықты жылдам өсуі керек деген даудың фонында айтылды. Дау 9 қыркүйекте Anthropic компаниясының бір зерттеушісі жұмыстан кеткеннен кейін күшейді, ол жетекші жасанды интеллект компаниялары «біздің өмірімізбен тәуекелге барып жатыр» деді. Бірнеше күннен кейін — 12 қыркүйекте — Anthropic компаниясының бас директоры Дарио Амодеи жасанды интеллектті дамытуды баяулатуды талап етіп, егер бұл үрдіс тежелмесе, 6–12 ай ішінде Hugging Face-ке шабуыл жасағандай агенттер легі «бүкіл интернетті басып алуға қауқарлы» болуы мүмкін, бұл жүздеген миллиард долларлық шығынға әкелуі ықтимал. OpenAI компаниясының бас директоры Сэм Альтман AI дамуын баяулату идеясын қолдады, ал SpaceX компаниясының бас директоры Илон Маск X желісінде: «Дарио дұрыс» деп жазды.

Дегенмен, кейбір инвесторлар бұл шақыруларға күмәнмен қарады: мысалы, аңызға айналған қысқа сатушы Майкл Бэрри Anthropic компаниясының басшысының мәлімдемелерін жай ғана AI компаниясының IPO-сы алдындағы өзін-өзі жарнамалау деп санады.