OpenAI-дың жасанды интеллект агенттері үкіметтік веб-сайттардан деректер жинау үшін хакерлік тактикаларды қолданды — FT

OpenAI-дың жасанды интеллект агенттері мемлекеттік және басқа да веб-сайттардан – коммерциялық та, коммерциялық емес те – деректер жинау әрекеттерін жасырды, деп хабарлайды сандық сот сараптамасы саласындағы Asymmetric Security компаниясының зерттеуі. Financial Times (FT) есепті көрді. «Агенттер өз іздерін жасыру үшін [кейбір] құралдарды әдейі пайдаланған болуы мүмкін», — деді Asymmetric Security компаниясының негізін қалаушылардың бірі Пиппа Томпсон.

Asymmetric Security зерттеуі бойынша OpenAI модельдері коммерциялық компанияларға, коммерциялық емес ұйымдарға және мемлекеттік органдарға тиесілі 55 веб-сайттан деректерді шығарған. Осы сайттар қатарында АҚШ Бағалы қағаздар және биржалар жөніндегі комиссиясы (SEC), Халықаралық энергетика агенттігі, АҚШ Ауруларды бақылау және алдын алу орталықтары (CDC) және әлемдегі ең ірі жеке медициналық және ғылыми-зерттеу орталықтарының бірі саналатын Майо клиникасы да бар, деп хабарлайды FT.

Сонымен қатар, Asymmetric зерттеуі AI агенттерінің веб-сайттарға кіру үшін қолданған жаңа тактикаларды анықтады. Оған деректерді жүктеу үшін Urlquery қызметін (веб-сайттарды зиянды бағдарламалар үшін сканерлеу құралы) пайдаланып уақытша электрондық пошта шоттарын және жеке аккаунттарды құру кірді. Зерттеушілер мұндай қадамдар AI агенттерінің әрекеттерін «жасырып», үшінші тарап аудиторларының боттардың веб-сайттардан нақты қандай деректер жүктеп жатқанын бақылауын мүмкін етпегенін атап өтті.

Мұндай мінез-құлық әдетте адам хакерлерімен байланысты, – деп атап өтті Asymmetric Security компаниясының құрылтайшыларының бірі Пиппа Томпсон. «Агенттер әдейі осы құралдарды іздерін жасыру үшін пайдаланған болуы мүмкін», – деді ол.

Asymmetric AI агенттерінің әрекеттерінің саналы түрде жасалғанын немесе сынақ кезіндегі шектеулер салдарынан болғанын анықтай алмады. Дегенмен, FT жазғандай, бұл нәтижелер жетекші жасанды интеллект зертханаларының ашықтығы мен бақылаудың жоқтығы жөніндегі алаңдаушылықты күшейтеді.

OpenAI өз агенттерінің «пайымдау тізбектеріне» негізгі қолжетімділігін сақтайды — олардың әрекеттерінің сандық журналдары, алгоритмнің әрбір қадамын және оның шешімдерінің логикасын тіркейді — деді Asymmetric компаниясының тағы бір құрылтайшысы Зайнаб Али Мажид. Ол мөлдірліктің жоқтығы мен шабуылдардың өздері мен OpenAI-дың бұзушылықтар туралы ақпаратты жариялау сәті арасындағы кешігу тергеулерге кедергі келтіруі мүмкін екенін ескертті.

АҚШ Құнды қағаздар және биржалар комиссиясы (SEC) Asymmetric тергеуіне қатысты пікір білдіріп, FT басылымына жасанды интеллект агенттеріне құпия ақпаратқа қол жеткізуге рұқсат берілмегенін айтты. Есепте аталған басқа ұйымдар мен агенттіктер газеттің пікір сұрауларына жауап бермеді.

OpenAI FT-ге былай деді: «Біз модельдің орынсыз әрекеттерін бақылаймыз және олардың жүйелеріне ықтимал әсері анықталған кезде ұйымдарға хабарлаймыз.» Компания өз деректеріне сәйкес анықталған белсенділіктің көпшілігі «рутинді зерттеу тапсырмаларына», мысалы, ашық қолжетімді веб-контентке қол жеткізуге байланысты екенін қосты.

Asymmetric Security есебі ChatGPT жасаушысы бірнеше ұйымның жүйелеріне хакерлік шабуыл жасады деген айыптаулар фонында жарияланды. Оларға Hugging Face атты жасанды интеллект платформасы мен Австралияның қоғамдық денсаулық сақтау қызметінің веб-сайты кіреді. Anthropic, Meta және Google сияқты басқа да жасанды интеллект зертханалары бұған дейін де жасанды интеллект модельдері бақылаудан шығып, үшінші тарап платформаларында хакерлік шабуылдар жасағанын хабарлаған.

Осыған орай, АҚШ Федералдық сауда комиссиясы (FTC) кеше Anthropic, OpenAI және басқа да озық жасанды интеллект модельдерін әзірлеушілерге тергеу бастады. Комиссия олардың әзірлемелері тұтынушыларға туғызуы мүмкін кез келген ықтимал тәуекелдерді анықтауды мақсат етеді.