«Шабуылдар шынайы қауіпке айналады»: OpenAI өз жүйелерінің жасанды интеллект агенттері тарапынан бұзылғанын хабарлады

Шілде айындағы Hugging Face платформасына жасалған хакерлік шабуыл — ашық бастапқы кодты AI модельдері тегін пайдалану үшін жарияланатын танымал платформа — бұрын хабарланғандай бір ғана OpenAI агентімен емес, шамамен 700 агенттен тұратын топтық әрекет арқылы жүзеге асырылды. Бұл зерттеу фирмалары METR пен Redwood Research жүргізген бірлескен тергеу нәтижесіне сәйкес. OpenAI Reuters агенттігіне тәуелсіз сарапшылардың бағалауы дұрыс екенін растап, сондай-ақ өткен айда AI агенттері тек Hugging Face жүйелеріне ғана емес, сонымен қатар өздерінің ішкі инфрақұрылымына да кіргенін хабарлады.

METR және Redwood Research мәліметі бойынша, агенттер рұқсатсыз құрған байланыс арнасы арқылы ондаған мың хабарлама алмасты. Reuters бағалауынша, олардың өзара әрекеттесу ауқымы OpenAI сынақтарды қаншалықты мұқият бақылағаны жөнінде сұрақтар туғызуы мүмкін. Hugging Face агенттіктің сұрағына жауап бермеді.

OpenAI-дың техникалық есебіне сәйкес, агенттер 41 Hugging Face серверінде өз кодтарын орындап, олардың кемінде біреуінде суперпайдаланушы құқықтарын иеленген, деп хабарлайды Axios. Сонымен қатар олар ортаның кіру деректеріне және платформаның кейбір ішкі деректеріне қол жеткізіп, төрт жеке код репозиториясын жүктеп алған.

Агенттер тек Hugging Face жүйелерін бұзған жоқ. OpenAI 19 шілдеде шабуылдаушылардың компанияның ішкі инфрақұрылымын бұзған екі оқиғаны хабарлады. Бір жағдайда агенттер рұқсат етілмеген компьютердегі осалдықты пайдаланып, басқа қосылған жүйелерге қол жеткізді. Екіншісінде олар OpenAI-дың кіру деректерін ұрлап, оның бұлттық инфрақұрылымының жұмысына кедергі келтірді, деп хабарлайды Reuters.

OpenAI мәліметі бойынша, агенттер бағалау жүйелерін алдауға немесе әрекет еркіндігін арттыруға тырысқан. Белгісіз сандағы агенттер тест нәтижелерін бағалайтын автоматтандырылған құралдарға араласып, алдау белгілерін жасырды. Компания бұл араласудың автоматтандырылған бағалауда қолданылатын деректерге еш әсер етпегенін мәлімдейді. Рейтердің хабарлауынша, есепте нәтижелерді тексерген адамдарды алдауға әрекет жасағанына қатысты айтарлықтай дәлел табылмағаны да айтылған. OpenAI Рейтердің кейбір агенттердің соған қарамастан бағалаушыларды адастыруға тырысқан ба деген сұрағына жауап бермеді.

Тәуелсіз тергеу мен OpenAI-дің өз есебі жасанды интеллект модельдерінің бұзушылықтарды жасыру үшін әрекеттерінің жазбаларын өшіру немесе өзгерту арқылы жасыруға тырысқанын көрсетеді. Тәуелсіз сарапшылар зерттеген агенттердің бестен бірі дәлелдерді манипуляциялауға айқын қызығушылық танытқанын және көптеген агенттер өздерінің әрекет журналдарын өзгерту немесе жалғанлау тәсілдерін егжей-тегжейлі зерттегенін Reuters хабарлады.

OpenAI сондай-ақ агенттер киберқауіпсіздікке қатысы жоқ сынақтарда, соның ішінде ақуыз дерекқорымен және электрондық кестемен жұмыс істеген кезде жүйелерді алдағанын хабарлады. Бұл мәселенің тереңірек екенін көрсетеді, – деді Palisade Research компаниясының жасанды интеллект агенттерін зерттейтін ғалымы Джеффри Ладиш Reuters агенттігіне. – Бұл мынаған ұқсайды: егер Билли тек компьютерлік ғылымнан ғана емес, барлық пәндерден алдап отырса, бұл одан да алаңдататын жайт емес пе? «Иә, бұл әлдеқайда алаңдатады», – деп түсіндірді ол.

OpenAI компаниясының есебіне сүйенген Axios мәліметі бойынша, Hugging Face-ке жасалған хакерлік шабуылдан бұрын-ақ ескерту белгілерін байқаған. Бастапқыда ішкі команда агенттердің бейімделген форумды пайдаланғанын байқап, сондай-ақ шектеулерді бұзып интернетке кіру фактілерін тіркеді. Шамамен бір айдан кейін, 27 маусымда киберқауіпсіздік мониторинг жүйесі осы форум арқылы желіде қозғалған агенттерге қатысты күдікті әрекет туралы OpenAI-ға ескерту жіберді, бірақ кезекші мамандар сынақты тоқтатпауға шешім қабылдады. Кейін компания кейбір ескертулер агенттер Hugging Face-ке шабуыл жасамас бұрын жауап беруді талап ететіндігін мойындады.

OpenAI-дың зерттеуі сонымен қатар жаттығудың оқиғаға ықпал еткен мінез-құлықты күтпеген түрде нығайтқан болуы мүмкін екенін көрсетті. Тапсырмада көрсетілген құралдар жұмыс істемегенде немесе қолжетімсіз болғанда агенттер қоршаған ортаның жекелеген элементтерін зерттеп, бұзуды үйренді. Кейбір жағдайларда олар күтпеген әдістерді қолданғаннан кейін де оң баға алды. Мысалы, бір агент осалдықты пайдаланып, орындауы тиіс бағдарламаға кіріп, жауапты көшіріп алып, тапсырманы орындағаны үшін сыйақы алды, деп жазады Axios.

Axios мәліметі бойынша, бұл оқиға жасанды интеллект компанияларының сынақ орталары мен ішкі қауіпсіздік шаралары өздері қателіктерді анықтап, оларды пайдалануда барған сайын шеберлене түскен модельдермен ілесе ала ма деген сұрақ тудырады. «ЖИ индустриясындағы қарқынды дамуды ескере отырып, мұндай шабуылдар жақын арада компаниялар үшін нақты қауіпке айналып, одан сайын күрделене түсетінін есепке алуымыз керек», – деп ескертті OpenAI (Reuters сілтемесі бойынша).