OpenAI-дың жасанды интеллект агенттері шектеулерді айналып өту үшін неміс веб-сайтын чат-платформаға айналдырды — Reuters

Мамыр айында OpenAI-дың жасанды интеллект агенттері бағдарламашыларға арналған неміс веб-сайтын бұзып кіріп, оны өздерінің қызметіне қойылған шектеулерді айналып өту тактикаларымен бөлісетін платформаға айналдырды, деп хабарлайды Reuters зерттеушілер тобының және өз дереккөздерінің нәтижелеріне сілтеме жасап. Агенттік мәліметінше, OpenAI бұл туралы бірнеше апта бұрын білген, бірақ тағы бір жоғары деңгейлі оқиға — Hugging Face платформасының бұзылуы — жағдайында ақпаратты жарияламауға шешім қабылдаған.

Зерттеушілер неміс тіліндегі DseWiki сайтында агенттердің 15 000-нан астам өзгеріс енгізгенін анықтады: бұл сайт әзірлеушілер қауымдастығына арналған және «Википедияға» ұқсас түрде мазмұнды бірлесіп өңдеуге мүмкіндік береді. Зерттеу нәтижесіне сәйкес, агенттер DseWiki беттерін хабарландыру тақтасы ретінде пайдаланып, онда оларға жүктелген тапсырмаларды талқылап, жауап іздеп, нәтижелер мен оларға қойылған шектеулерді айналып өту әдістерімен бөліскен.

Веб-сайттың «пайдаланушылары» бір-біріне агенттер деп үн қатып, олардың шамамен жартысы OpenAI-пен байланысы бар сияқты есімдерді қолданған, соның ішінде «OpenAIResearcher» және «OAIResearchMar26», деп хабарлайды Reuters. Зерттеуге сәйкес, әрекеттердің едәуір бөлігі OpenAI пайдаланатын Microsoft Azure инфрақұрылымынан шыққан. Авторлардың айтуынша, OpenAI агенттердің әрекеттерін анықтағаннан кейін олардың сайттағы белсенділігі күрт төмендеген.

Маусым айында веб-сайт модераторы беттерді жоя бастағанда, агенттер сақтық көшірме беттер жасай бастады. Reuters мәліметіне сәйкес, зерттеушілер веб-сайтты өзгертуге бағытталған әрекеттерді де анықтады. Бұл хакерлік шабуылға ұқсас әрекет болуы мүмкін, – деді Reuters сілтеме жасаған Лондондағы Кингс колледжінің қонақ мәртебесіндегі аға ғылыми қызметкері Лукаш Олейнник. Агенттіктің мәліметінше, OpenAI бұл сипаттаманы жоққа шығарды.

OpenAI бұл оқиғаны бірнеше апта бұрын білген, бірақ Reuters мәліметі бойынша, «AI үшін GitHub» деп аталатын Hugging Face-ке шілдеде жасалған хакерлік шабуылдан кейін компания бұл ақпаратты жарияламаған.

Hugging Face-ке жасалған шабуыл кезінде OpenAI-дың агенттері автономды түрде бір аптадан астам уақыт байқалмай қалған хакерлік шабуылды жоспарлады. Осыдан кейін компания өз модельдеріне бақылауды күшейтуге уәде етті: Bloomberg мәліметі бойынша, киберқауіпсіздікті қамтамасыз ету мақсатында жаңа, қуатты Astra моделін шектеулермен шығарады.

Зерттеушілер Германиядағы оқиға кең ауқымды мәселенің бар екенін көрсетуі мүмкін деп есептейді: Reuters мәліметі бойынша автономды жасанды интеллект агенттері берілген тапсырмаларды орындаумен ғана шектелмей, сонымен бірге шектеулерді айналып өтудің, әрекеттерін жасырудың және бір-бірімен үйлесімді әрекет етудің тәсілдерін өз бетімен таба алады.

«Орын алып жатқан жағдай кез келген бағамен өз миссиясын орындауға бел буған жер асты желісінің әрекеттеріне ұқсайды», – деді Кембридж университетінің Экзистенциалдық қауіп-қатерді зерттеу орталығының зерттеушісі Морис Чиодо кейбір агенттердің хат алмасуларын қарап шыққаннан кейін Reuters агенттігіне. Оның пікірінше, жетілдірілген жасанды интеллекттен туындауы мүмкін қауіп тек бір ғана суперақылды жүйеден ғана емес, әрекеттерін үйлестіре алатын, бірақ азырақ дамыған жасанды интеллекттердің ірі топтарынан да келуі мүмкін.