«Бұзылулар – заңдылық»: Амодей Mythos, жасанды интеллектіні реттеу және байлық туралы

Қолданыстағы киберқорғаныс жүйелерін айналып өте алатын озық Mythos моделінің әзірленуі Anthropic компаниясының бас директоры Дарио Амодейді жасанды интеллектіні реттеу қажеттігіне одан әрі сендірді. Сарапшылар мен инвесторлардың алаңдаушылығы мен Anthropic-тің жоспарланған IPO-сына дейін Амодей Financial Times басылымына сұхбат берді. Oninvest оның пікірлерін қорытындылайды.

«Менің ойымша, жасанды интеллектіні реттеуде автокөліктер мен ұшақтарды реттейтіндей тәсілді қолдануымыз керек», – дейді Амодей. «Барлығы олардың зор экономикалық құндылығы барын түсінеді, бірақ оларды аса мұқият жобалау қажет. Егер олар дұрыс жобаланбаса, адамдарды өлтіруі мүмкін».

Anthropic компаниясы өзінің озық Mythos моделі барлық қолданыстағы операциялық жүйелер мен веб-шолғыштарда бұрын белгісіз болған мыңдаған осалдықтарды анықтағанын мәлімдейді, олардың кейбіреулері 27 жыл бойы бар. Компания қазіргі уақытта модельді көпшілікке шығармауға шешім қабылдады. Mythos тек Project Glasswing жобасы аясында шектеулі серіктестер тобына ғана қолжетімді. Мақсаты – ықтимал қауіптерді алдын ала анықтап, жою. Амодей ашық бастапқы кодты модельдер мен қытай әзірлеушілері Mythos-тың мүмкіндіктерін алты-он екі ай ішінде қайта жасап шығара алатынына күмәнданбайды.

Кейбір талдаушылар Mythos-ты дамыту Anthropic-ке мемлекеттік деңгейдегі мүмкіндіктер берді деп есептейді, деп жазады Financial Times. Егер бұл технологияны бір компания немесе бір ел өз бетінше басқарса, қауіпті жағдай туындайды, сондықтан Anthropic басқалармен тығыз ынтымақтастықта жұмыс істеп жатыр, дейді Амодей. Ол киберқауіпсіздікті нығайтудағы келесі қадамдар ретінде міндетті технологиялық бағалау жүйесін құруды көреді. Ол өнеркәсіптің қолдауымен жұмыс істейтін коммерциялық емес Frontier Model Forum сияқты үшінші тарап ұйымы автокөліктерге қойылатын стандарттарға ұқсас талаптар белгілей алатынын ұсынады: «Көліктің тежегіші бар ма, әуе жастықшалары бар ма, қауіпсіздік белдіктері бар ма?»

Амодей жасанды интеллект компаниялары бұл технология туғызатын экономикалық ауыс-түйісті мойындауы тиіс деп талап етеді. Оның айтуынша, сала жасанды интеллекттің оң әсері осы ауыс-түйісті өтеуге жеткілікті күшті болуын қамтамасыз етуі керек. Ол болмайынша, адамдар жасанды интеллект технологиясына күдікпен қарай береді деп есептейді. Оның қағидасы бойынша, жасанды интеллект тек «сенім жылдамдығымен» ғана тарала алады.

Қаңтар айында «Технологияның жеткіншек кезі» атты эссесінде Амодеи бес жылдың ішінде барлық бастапқы деңгейдегі кеңсе жұмыстарының шамамен 50%-ын жасанды интеллект жоятынын ескертті.

ЖИ көпіршігі жарылуға жақын деген әңгімелерге қарамастан, Амодей өзі «Ұлы есептеу комасы» деп атайтын құбылыстың кеңеюі әлі де аяқталмағанына кәміл сенеді.

«Көкжиектің соңы жоқ. Тек көкжиек қана бар», – дейді ол. «Біз бәсеңдеудің ешқандай белгісін көрмейміз.»

«Біз жаңа «Алтын жалатылған дәуірде» өмір сүріп жатырмыз», – дейді Амодей, ол бұл сөзбен 1870–1880 жылдары АҚШ-та Азамат соғысынан кейінгі тез экономикалық өсім кезеңін меңзеді. Оның айтуынша, «өте сәтті» аз ғана миллиардерлер (соның ішінде өзі де бар) алып байлық жинап, әлеуметтік жауапкершілікті арттыруға міндетті. Anthropic компаниясының басшысы баспасөздегі «әділетсіз» сындарға ашуланып, өздерінің медиа құралдарын сатып алу арқылы «сот төрешісін сатып алатын» технологиялық миллиардерлерді ерекше сынға алады. FT жазғандай, Амодей нақты адамдардың атын атаудан бас тартты.

«Біздің қоғамға ешқандай ақы күтпестен қайтаруға парызымыз бар. Ал қоғам бізді осы үшін мадақтауға міндетті емес», – дейді ол. «Баспасөз менің кішкентай ит балаларын азаптап жатырмын деп жазуы мүмкін, бірақ менде әлі де қоғам алдындағы парызым болар еді».

Оның тоны Силикон алқабындағы көптеген сыншыларды ашуландырады, олар оның қағидалары Anthropic компаниясының коммерциялық мүдделерімен сәйкес келетінін атап көрсетеді, деп хабарлайды FT. Акционерлік капитализмнің қатал бәсекелестігі де өзінің қайтарылмайтын логикасын мәжбүрлеп енгізеді, деп жазады басылым.