Іздеудің орнына хакерлік шабуыл: OpenAI-дың жасанды интеллект агенттері тағы үш веб-сайтқа шабуыл жасады — зерттеу

Биыл OpenAI-дың жасанды интеллект агенттері үкіметтік қызмет пен университет сайттарына рұқсатсыз кіруге тырысты — бұл әрекетті олар жай ғана онлайн деректер жинау бойынша күнделікті тапсырмаларды орындау кезінде жасады. Мамыр мен маусым айларындағы бұл хакерлік шабуыл әрекеттері коммерциялық емес жасанды интеллект зерттеу зертханасы Transluce тарапынан тіркелді. Бұл деректер The Wall Street Journal (WSJ) мәліметіне сәйкес, бір күн бұрын Австралия билігі жариялаған ақпаратты растады.

WSJ хабарлауынша, бұрынғы хакерлік шабуылдардан айырмашылығы, бұл жасанды интеллекттің үшінші тарап сайттарына шабуыл жасау әрекеттері модельдерге жүйелерді бұзуға нақты тапсырма берілген киберқауіпсіздік тестілерінің құрамына кірмеген. Көрінгендей, бұл жай ғана ішкі модельді оқыту және оның интернеттегі ашық қолжетімді ақпаратты табу қабілетін сынау мәселесі болған. Атап айтқанда, Transluce анықтағандай, агенттер Тайланд еңбек нарығының статистикасын, Австралиядан дерматологиялық ақпаратты және Оңтүстік Кореяға мұнай импорты туралы деректерді іздеген.

Нәтижесінде, зерттеушілердің айтуынша, OpenAI-дың жасанды интеллектісінің нысаналарына Австралияның Денсаулық сақтау және әлеуметтік қамсыздандыру институты, Нью-Мексико университеті және Deloitte басқаратын Data USA жобасы кірді, Datawheel және Массачусетс технологиялық институты. Transluce агенттіктер қажетті деректерді қалыпты арналар арқылы ала алмаған соң хакерлік әдістерге жүгінгендей екенін көрсетті. Зерттеушілер агенттердің сұрауларын қалпына келтіре алды, себебі боттар веб-шолғыш тәрізді жұмыс істейтін онлайн құралды пайдаланған. Олардың ойынша, агенттер оны веб-сайттарға автоматтандырылған қолжетімділікке қойылған шектеулерді айналып өту үшін қолданған.

Газет ерекшелеп жазады, осы хакерлік шабуылдар нәтижесінде OpenAI агенттерінің жарияланбаған ақпаратты жүктеп алғанына қатысты ешқандай дәлел жоқ.

OpenAI өкілі Transluce есебіне жауап бере отырып, бұл жасанды интеллект компаниясы агенттердің «рұқсатсыз әрекеттері» деп сипаттайтын құбылыстарды жан-жақты талдап жатқанын мәлімдеді. Зерттеуде сипатталған оқиғалар «үздіксіз талдау аясында әртүрлі тергеу кезеңдеріндегі істермен» сәйкес келеді, – деп қосты ол (WSJ-де келтірілген).

AI Lab сондай-ақ хакерлік шабуылдарға ұшыраған ұйымдармен байланыста болды. Аз ауырлығы бар оқиғаларды, мысалы «агенттердің веб-сайттарға спам жіберуі» сияқты жағдайларды да қоса алғанда, жан-жақты талдау бірнеше айға созылады, деді OpenAI өкілі.

Осы аптаның басында OpenAI агенті алғаш рет үкіметтік веб-сайтқа – Австралияның қоғамдық денсаулық сақтау қызметінің сайтына – рұқсатсыз кіргені белгілі болды. Бұл оқиға маусым айында болған. Ел премьер-министрі Энтони Албанезе мәлімдеуінше, жасанды интеллект денсаулық сақтау саласына мемлекеттік шығындарды зерттеу кезінде медициналық статистика порталына рұқсатсыз кірген. OpenAI бұл ақпаратты растады.