OpenAI мен Anthropic компанияларының жасанды интеллектіні баяулату жөніндегі жоспарлары қызметкерлері арасында шиеленіс тудырды.

Financial Times дереккөздерге сілтеме жасап хабарлағандай, Anthropic пен OpenAI компанияларының басшылары заманауи модельдердің дамуын баяулату жөніндегі ұсыныстары қызметкерлер арасында кернеу тудырды. Anthropic компаниясының бас атқарушы директоры Дарио Амодеидің бастамасы – оны OpenAI-дың Сэм Альтман ашық қолдаған – екі компания қызметкерлерін де таңғалдырды: газет мәліметінше, олар бұл идеяны іске асыруға ішкі тұрғыдан дайын емес.

FT хабарлауынша, Anthropic пен OpenAI қызметкерлері қауіпсіздік қауіптерін болдырмау мақсатында басшыларының жасанды интеллект даму қарқынын бәсеңдету жөніндегі ұсыныстарын жүзеге асыруға тырысуда. Дегенмен, Amodei мен Altman-ның мәлімдемелері екі компанияның қызметкерлері мен олардың жұмысында сүйенетін қауіпсіздік зерттеушілері үшін тосынсый болды, деп хабарлайды газет. Басылым хабарлауынша, көптеген адамдар жасанды интеллекттің дамуын бәсеңдету қажеттігіне келіссе де, бұл олардың жұмысына кедергі келтіреді деп алаңдайды.

Бір негізгі мәселе сыртқы сарапшыларды зертханаларға кіргізіп, жасанды интеллект модельдерінің әзірленуін қадағалауға рұқсат беру идеясына байланысты: кейбіреулер бұл олардың технологияларының қауіпсіздігін бұзуы мүмкін деп қорқады, деп хабарлады FT дереккөздері. Amodei сыртқы тестілеушілерге жетон, компьютер, кеңсеге кіру және ішкі құралдарға қол жеткізуді қамтитын «қызметкер деңгейіндегі қолжетімділікті» беруді ұсынды. FT-тің екі компаниядағы дереккөздерінің айтуынша, мұндай қадағалау мен қауіпсіздік пен деректерді қорғау арасындағы тепе-теңдікті сақтау ірі практикалық қиындық тудырады.

Қазіргі уақытта үшінші тарап ұйымдарының көбісінде тіпті ең төменгі қауіпсіздік рұқсаты бар ішкі қызметкерлерге қарағанда әлдеқайда төмен деңгейдегі қолжетімділік бар. «Сондықтан бұл тәжірибені бүкіл салада енгізу үшін қандай да бір міндетті талап қажет болуы мүмкін», – деді бұрынғы OpenAI зерттеушісі Майлз Брэндэйдж FT басылымындағы есепте.

Амодейдің ұсынысы Nvidia компаниясының бас директоры Дженсен Хуанг (ЖИ инфрақұрылымына сұраныстың негізгі пайда алушысы) және Meta компаниясының басшысы Марк Цукерберг (ЖИ нарығындағы көшбасшыларға белсенді түрде ілесіп келе жатқан) тарапы нан қабылданбады. Хуангтың айтуынша, жасанды интеллект – бұл «сыртқы ғарыштық интеллекттің» жаңа түрі емес, адамдар жасаған аппараттық және бағдарламалық құралдар, оларды адамдар мен қолданыстағы заңдар арқылы бақылауға болады.

15 қыркүйекте OpenAI даму қарқынын реттеу мақсатында кейбір озық модельдерді оқытуды тоқтатқанын жариялады. Anthropic өз зерттеулерінде ешқандай үзіліс болмағанын хабарламады.

Қыркүйекте Anthropic компаниясының зерттеушісі Джейкоб Коксон компаниядан жұмыстан шығарылғаннан кейін компания мен OpenAI бірге қуатты жасанды интеллект модельдерін әзірлеу арқылы «біздің өмірімізбен ойнап жатыр» деді. Anthropic компаниясының жетекші қауіпсіздік зерттеушісі Эван Хабингердің айтуынша, бұл технология келесі онжылдықта адамзатқа катастрофалық зиян келтіруі мүмкін.