«ЖИ үшін екі рет төлейсіз»: Microsoft бас директоры Anthropic пен OpenAI-ға тәуелділік туралы ескертеді
Сатья Наделла нарықтағы қазіргі жағдайдың AI қолданатын компаниялардың құпия ақпараттарының қауіпке ұшырауына әкелуі мүмкін деп есептейді.
Microsoft компаниясының бас директоры Сатья Наделла жетекші жасанды интеллект модельдерін әзірлеушілер мен олардың клиенттері арасындағы әділетсіз «асимметрияны» анықтады / Фото: X/Satya Nadella
Microsoft компаниясының бас атқарушы директоры Сатья Наделла ескерткендей, басқалардың жасанды интеллект модельдеріне сүйенетін компаниялар оларға тек ақшамен ғана емес, сонымен бірге өздерінің құпия әдістерін де ашып көрсетуге мәжбүр. Business Insider оның мақаласын Anthropic пен басқа да жетекші жасанды интеллект әзірлеушілеріне бағытталған жанама сын ретінде қабылдады.
Не болды?
12 шілдеде Наделла X-те «Кері ақпараттық парадокс» атты мақала жариялады, оны экономист Кеннет Эрроу қойған кеңінен белгілі дилеммадан бастады: ақпарат сатушы оны сатып алушыны іздеген кезде білімді тегін таратып алу қаупіне ұшырайды. Microsoft басшысының айтуынша, жасанды интеллект жағдайды түбегейлі өзгертті: енді сатып алушы сатып алған ақпаратты пайдалану үшін оны тегін таратып алу қаупіне ұшырайды.
«Негізінде, сіз жасанды интеллект үшін екі рет төлейсіз: алдымен ақшамен, содан кейін одан да құнды нәрсе — жасанды интеллект пайдалы болуы үшін ашып көрсетуге мәжбүр болатын құпия біліммен», — деп жазады Наделла. Уақыт өте келе ақпараттық асимметрия барған сайын күшейеді. Сіз сатып алған өнімді пайдаланған сайын қызмет көрсетуші сіз туралы барған сайын көбірек біледі, ал сіз сол өзара әрекеттен қандай ақпарат алынып жатқанын дерлік білмейсіз.
Құжаттар мен дерекқорларды жай ғана қорғау жеткіліксіз, – деп ескертеді технологиялық алып компанияның басшысы. Нейрондық желілер жасанды интеллектпен жұмыс істеудің «қосалқы өнімдерінен» — қызметкерлердің сұрауларынан, агенттердің әрекеттерінен және әсіресе модель қателік жібергенде адамдар енгізетін түзетулерден үйренеді. Бұл түзетулер бәсекелес сатып ала алмайтын компания туралы білім қорын құрайды.
Наделла сондай-ақ жасанды интеллект әзірлеушілерінің екіжүзді стандартын сынады. «Модель жеткізушілер әділ пайдалану қағидаты бойынша ашық қолжетімді деректерде өз модельдерін оқыту мүмкіндігіне ие болуы тиіс — бұл инновацияның іргетасы. «Маған ирониялы көрінеді: олар кейін дистилляцияға (бір жасанды интеллект моделін екіншісінің нәтижелерін пайдаланып оқыту — Oninvest) қатаң шектеулер қояды, ал тұтынушылардың өнімдерін қалай пайдаланатыны туралы деректерден үйрену құқығын өздері сақтап қалады», — деді Microsoft бас директоры. Егер оқыту тек бір бағытты болса, экономикалық құндылық модельдер мен олардың оқыту жүйелерінің иелерінде шоғырланады, ал өздерінің білімі пайдаланылып жатқан адамдарда емес, – деді ол.
Business Insider бұл пікірлерді негізінен Anthropic-ке қарсы «тырнау» деп санайды. Басылым сондай-ақ OpenAI, Google және DeepMind-ты да атап өтті. Anthropic компаниясының бас директоры Дарио Амодеи қытай әзірлеушілер компанияның чат-ботын пайдаланып, өз модельдерін оқыту арқылы оның жұмысын ұрлап жатыр деп шағымданды, ал маусым айында сенаторларға жазған хатында стартап Alibaba-ның әрекеттерін «осы сипаттағы ең ірі шабуыл» деп сипаттады.
Наделланың бес «С»-і
Наделла білімнің сыртқа шығуын болдырмау үшін компанияларға қауіпсіз орта қажет деп есептейді. Осы ортада деректер, өзара әрекеттесу тарихы, сынақтар, кері байланыс, жад және модель параметрлерінің баптаулары жинақталуы тиіс. Компанияның келісімінсіз тіпті «деректердің сыртқа шығуы» да экожүйеден тысқа шықпауы тиіс, ал компанияға үшінші тарап модельдерінің нәтижелерін өз жүйелерін ұсақ-түйекке дейін баптау және оқыту үшін пайдалану құқығы берілуі керек.
Microsoft басшысы өз тәсілін бес тармақта қорытындылады:
— Бақылау — компанияның жасанды интеллект сапасын бағалауға арналған өз критерийлері және сұраулар, түзетулер, шешімдер мен кері байланыс жазбаларын жинау және пайдалану құқығы;
— Қабілет — модельдерді нақты бизнес-процестерді пайдалана отырып, «компанияның ноу-хауын ашпай» оқытуға болатын ішкі орта;
— Таңдау — бір ғана жасанды интеллект моделіне тәуелді болмау: егер біреу қолжетімсіз болса, компания басқа модельдерді пайдалана алуы тиіс;
— Шығын — модельдерді таңдау еркіндігі тапсырмаларды сападан құрбандық жасамай-ақ арзанырақ орындауға мүмкіндік береді;
— Қосынды (компоундинг) — AI-дың білімі мен оқу нәтижелері жинақталып, уақыт өте келе компанияға барған сайын үлкен пайда әкелуі тиіс.
Ол жалпы қағиданы былайша қорытындылады: кәсіпорындар AI моделін «өздерін бірегей ететін білімді бермей-ақ» пайдалана алуы тиіс.
