OpenAI мен Meta әзірлеушілері ЖИ-дің ой қорытуын бақылаудан шығара бастады
OpenAI, Google DeepMind, Meta және Anthropic-тың жетекші ЖИ зерттеушілері бірлескен мақалада әзірлеушілердің жаңа ЖИ модельдерінің «қалай ойлайтынын» түсінуді жоғалту тәуекелі барын ескертті. Бұл дегеніміз — олардың ой қорытуында қате бар-жоғын бақылау мүмкін болмай қалуы мүмкін. Әсіресе ЖИ адамның орнына шешім қабылдайтын медицинада, қорғаныста және тетіктерді басқару саласында аса қауіпті.
Егжей-тегжейлі
OpenAI, Google DeepMind, Meta және Anthropic ғалымдары ЖИ модельдерінің ой қорыту процесін қадам-қадаммен ішкі монологтар арқылы бақылау мүмкіндігі жуырда жойылып, зерттеушілер ЖИ-дің «қалай ойлайтынын» түсінбей қалуы мүмкін екенін алға тартады. Мұндай қауіп туралы ескерткен баяндамаға 40-тан астам маман қол қойған.
Google, OpenAI, Claude чат-ботын жасаған Anthropic және Илон Маскқа тиесілі xAI «ой қорыту тізбегі» деп аталатын әдісті ұсынған технологиялық компаниялардың қатарында. Бұл әдіс ЖИ-модельдің тапсырманы қадам-қадаммен шешіп, жауапқа қалай келгенін көрсетуіне негізделген. Чат-боттарды пайдаланатын қарапайым қолданушылар осы тізбектің тек қысқарған нұсқасын ғана көреді — онда логикалық қателер болуы мүмкін егжей-тегжейлі бөліктер болмайды. Ал әзірлеушілер модельдің ойлау процесіне араласып, оны оқытуға мүмкіндік беретін толық ақпаратқа қол жеткізе алады.
Зерттеушілер модельдің өз ойлау процесін бөлісе алуы ЖИ-дің қауіпсіз жұмыс істеуін қамтамасыз етудегі ең маңызды элементтердің бірі болып қала беретінін түсіндіреді. Алайда, соңғы жауап модельдің өзі жаңа ғана баяндаған логикаға қайшы келетін «дұрыс емес әрекет» жағдайлары тіркелген. Бұл тіпті жетекші ЖИ зертханаларының өздері де өз модельдерінің белгілі бір тұжырымдарға қалай келетінін толық түсіне бермейтінін көрсетеді, дейді The Financial Times.
Не болып жатыр және қауіп неде?
Әзірлеушілер өз үндеуінде модельдердің есептеу қуаты артып, оқыту әдістері күрделене түскен сайын жаңа ЖИ адамға түсінікті етіп ой қорытуының тоқтап қалу қаупі артатынын түсіндіреді. Баяндамада айтылғандай, мұның орнына олар зерттеушіге мүлде түсініксіз, бірақ әлдеқайда жылдам әрі тиімді ішкі алгоритмдерді дамытып алуы мүмкін. Қазірдің өзінде әзірлеушілер кейбір ЖИ модельдерінің «ой қорыту тізбегінде» ағылшын тілінен алыстап, оның орнына сөз тіркестері мен таңбалар жиынтығын пайдалана бастағанын байқауда. Ал ең озық алгоритмдер тілді мүлде қолданбайды: олардың жұмысы математикалық кеңістікте жүреді, мұнда адам бақылап, ұға алатын ештеңе жоқ, деп жазады зерттеушілер.
Алгоритм күмәнді шешім қабылдағанда, оның ой қорыту барысы көбіне нақты салдарлар туындағанға дейін-ақ ол туралы белгі береді. Бұл қабылданып жатқан шешімнің дұрыстығын ерте анықтайтын өзіндік ескерту жүйесіне айналған еді. Алайда қазір ғалымдар мен жетекші ЖИ әзірлеушілері адам ЖИ агентінің жіберген логикалық қателігін бақылау мүмкіндігін жоғалтуы мүмкін деп алаңдап отыр.
Қандай шешім бар?
Мақала авторлары ЖИ дамуын баяулатуға шақырған жоқ. Бірақ олар қорғаныс шараларын енгізудің маңызын атап көрсетеді: ЖИ-дің ой қорытуының ашықтығын бағалайтын бірыңғай стандарттарды қабылдау, оны бақылауға арналған сенімдірек тәсілдерді әзірлеу. Сондай-ақ ғалымдар әзірлеушілерге алгоритмдерге арналған архитектураны мұқият таңдауға және ой қорытуды адамға түсінікті тілмен жүргізбейтін модельдерден бас тартуға кеңес береді. Олардың ескертуінше, мұндай шараларсыз ЖИ-дің іс әрекетін бақылаудан айырылып қалуға болады.
