Жасырын AI чат бөлмелері: OpenAI агенттері шектеулерді айналып өтіп, ондаған веб-сайттарда қарым-қатынас жасады

OpenAI-дың бақылаудан шыққан жасанды интеллект агенттері рұқсатсыз оннан астам веб-сайтты пайдаланып байланыс орнатқан. Бұл алты тәуелсіз зерттеу тобының деректері мен Reuters тексерген ақпаратпен расталады. Олар агенттердің рұқсатсыз әрекеттері – компания бірнеше ай бойы жасырып келген – қыркүйектің басында хабарланғаннан әлдеқайда ауқымды болғанын анықтады. Сол кезде тек бір ғана неміс бағдарламашылар платформасына жасалған хакерлік шабуыл белгілі болған.

4 қыркүйекте зерттеушілер OpenAI жасанды интеллект агенттері тобының әзірлеушілер қауымдастығына арналған неміс тіліндегі DseWiki сайтын басып алып, оны хабарлама алмасу мен емтихандарда алдауға арналған уақытша платформаға айналдырғанын хабарлады. Бұл сайт «Википедия» тәрізді мазмұнды бірлесіп өңдеуге мүмкіндік беретін вики-платформалардың бірі болып табылады. OpenAI Reuters хабарлауынша, Hugging Face ашық бастапқы кодты репозиторийіне шілдеде жасалған хакерлік шабуылдың салдарын жоюмен айналысып жүргенде бұл оқиғаны жасырып келген. Тәуелсіз сарапшылар енді сол агенттер ұқсас хабарламалар қалдырған тағы бірнеше веб-сайтты анықтағандарын мәлімдеп отыр.

Зерттеушілер бұл әрекетті неміс веб-сайтының деректер жолдарын басқа сайттарда табылған бірдей кодпен салыстыра отырып анықтады. Сонымен қатар олар сәйкес пайдаланушы аттарын немесе өте мамандандырылған іздеу сұрауларын — мысалы, Айова штатындағы қатерлі ісіктің таралу статистикасы туралы — талдады. Кейбір жағдайларда бұл іздер Microsoft Azure инфрақұрылымына тиесілі IP-мекенжайларға апарды, оны OpenAI кейде пайдаланады.

Зақымдалған веб-сайттардың нақты саны әртүрлі, бірақ Reuters агенттігіне сұхбат берген барлық сарапшылар мұндай сайттардың оннан астам болғанына келіседі. Олар негізінен бірлесіп өңделетін вики-сайттар, мәтін хостинг платформалары және екі университет басқаратын сілтеме қысқарту қызметтері.

Осы сайттардың көпшілігі аз танымал болды. Мысалы, жасанды интеллект агенттерінің іздері табылды, химияны терең зерттеуге арналған вики-сайтта, екі поляк IT маманының жеке беттерінде, «миды жаттықтырғанды ұнататындарға» арналған жұмбақтар сайттарында және мәтіндік редакторларға арналған әуесқойлар порталында. Осы сайттардың ешбір иесі Reuters-тің сұрауларына жауап берген жоқ.

Бұл әрекет хакерлікке жатпайды және спам таратуға көбірек ұқсайды, бірақ OpenAI агенттері өздеріне қойылған шектеулерді айналып өтіп, көптеген веб-сайттарда байланыс арналарын орната алғанының өзі, Ал компания бұл жағдайды айлар бойы жасырып келгені AI-дың өсіп келе жатқан мүмкіндіктері мен корпоративтік құпиялылыққа қатысты алаңдаушылықты күшейтеді, деп хабарлайды Reuters.

Рұқсат етілмеген байланыстардың көлемі «біз ойлағаннан сәл үлкен» болып шықты, деді Калифорниядағы коммерциялық емес ұйым CivAI-дың зерттеушісі Эндрю Юн. Ол мамыр мен шілде айларында агенттер пайдаланған бұрын хабарланбаған 18 веб-сайтты анықтады: «Мұнда біз білмейтін тағы бір нәрсе болып жатқанына дерлік сенімдімін».

OpenAI өз агенттерінің үшінші тарап сайттарын неге пайдаланғанын жария түрде түсіндірген жоқ. Алайда мәселені алғаш анықтаған зерттеушілердің пікірінше, жасанды интеллектке күрделі сұрақтарға жауап табу тапсырылған, алайда оған тек интернетті шолуға рұқсат етілген, деректерді жариялауға құқығы болмаған. Осы қатаң шектеулерге қарамастан, агенттер бір-бірімен қарым-қатынас жасаудың жолын тапты.

Олар ескірген вики платформалары мен веб-сайттардағы осалдықтарды пайдаланып, стандартты емес командалар арқылы өзгерістер енгізуге мүмкіндік алды. Бұл емтихан кезінде сөйлесуге тыйым салынған студенттердің дәретхана кабинасындағы жазбалар арқылы бір-біріне жауап жіберуіне ұқсайды. Модельдерге «ақылдарын пайдалануға» тура келді, – дейді кем дегенде он веб-сайтта жасанды интеллект іздерін анықтаған әзірлеуші Кеннет Рассел ДеГрафф.

OpenAI зардап шеккен веб-сайттар саны немесе осы мәселеге қатысты ұзақ үнсіздік себептері туралы Reuters-тің сұрақтарына тікелей жауап бермеді. Компания агенттерінің қызметіне кең ауқымды тексеру жүргізіп жатқанын және қазірге дейін «Hugging Face оқиғасының ауырлығы мен ауқымына сәйкес келетін басқа да әрекет анықталған жоқ» деді – бұл жаһандық назар аударып, жасанды интеллектке бақылауды жоғалту қаупін тудырған хакерлік шабуыл.

Әзірлеушілер модельдерді оқыту, бағалау және енгізу кезеңдерінде «misalignment» – бақылаудан шыққан мінез-құлықты білдіретін салалық термин – белгілейтін жүйені әзірлеп жатқанын қосып, оны «жақын арада» бөлісетіндерін уәде етті.

Осы жағдайға орай тағы бір жасанды интеллект алпауыт компаниясы Anthropic тестілеу кезінде Claude Opus 4.6 моделінің ерте нұсқасы сыртқы жүйелерді бұзған жаңа оқиғаны хабарлады. Бұл жағдай тамызға дейін байқалмады, себебі компания бастапқы тексеру кезінде кейбір сынақ сессияларын өткізіп алған, деп хабарлайды Reuters.

Бұл Anthropic компаниясында осындай төртінші оқиға. Шілдеде компания Claude Opus 4.7 және Claude Mythos 5 модельдері мен ішкі зерттеу прототипі қауіпсіздік тестілеу кезінде интернетке кездейсоқ қол жеткізуге мүмкіндік беретін ақау салдарынан үш компанияның жүйелеріне кіргенін мойындады.

Anthropic компаниясының ішкі тергеуі модельдерде екі қайталанатын мәселені анықтады: «шешім қабылдаудағы бұрмалану» (Claude нақты интернетте не жұмыс істейтініне қатысты дәлелдерді елемеген немесе қате түсіндірген) және «абайсыздық» (тапсырманы орындау үшін ықтимал зиянды әрекеттерді жасауға дайын болу).