OpenAI жасанды интеллект агенті алғаш рет үкіметтік веб-сайтты бұзып кірді.

OpenAI агенті Австралия үкіметінің денсаулық сақтау қызметінің веб-сайтын бұзып кірді, деді елдің премьер-министрі Энтони Албанезе БҰҰ Бас Ассамблеясының отырысында. Reuters пен CNN мәліметінше, бұл AI агенті үкіметтік веб-сайтты бұзып кірген алғашқы белгілі жағдай, сондай-ақ ол АҚШ-тан тыс сыртқы жүйелерге AI агенттерінің рұқсатсыз кіруіне байланысты ең жоғары деңгейдегі оқиғалардың біріне айналуы мүмкін.

Оқиға туралы ақпарат 23 қыркүйекте пайда болды — дәл сол күні әлемнің жетекші жасанды интеллект компанияларының басшылары, соның ішінде Сэм Альтман мен Дарио Амодеи, БҰҰ Қауіпсіздік Кеңесіне жасанды интеллекттің адамзатқа төндіретін қауіптері туралы ескертті. Олар үкіметтерді бұл барған сайын қуатты технологияны реттеу үшін күш біріктіруге шақырды, деп хабарлайды Reuters.

Оқиға маусым айында болған, бірақ Альбанезе бұл туралы өзі тек екі апта бұрын ғана білгенін айтты. Премьер-министрдің айтуынша, OpenAI агенті үкіметтің денсаулық сақтауға жұмсаған шығындарын зерттеу кезінде Австралияның әмбебап медициналық сақтандыру жүйесі – Medicare денсаулық статистикасы порталына рұқсатсыз кірген. «Жасанды интеллект Medicare статистикалық деректер базасындағы ашық қолжетімді және шектеулі файлдарға қол жеткізіп, оларға өзгерістер енгізді», – деді Альбанезе журналистерге. Ол бұл оқиғаны Нью-Йорктегі БҰҰ Бас Ассамблеясының шетінде OpenAI компаниясының бас директоры Сэм Альтманмен талқылағанын айтты.

«Осы кезеңде ешқандай жеке деректерге қол сұғылмаған деп есептеледі, бірақ тергеу жалғасуда», – деді Премьер-министр. «Қазіргі уақытта қолжетімді дәлелдер Services Australia желісінде (Medicare-ді басқаруға жауапты Австралия үкіметтік агенттігі — Oninvest ескертпесі) ірі көлемді бұзушылықтар болмағанын көрсетеді ». Дегенмен, бұл жағдай айқын түрде қабылдауға жатпайды, – деп баса айтты ол (Financial Times-такелтірілген ).

Медикейдтен басқа, – деп жалғастырды Альбанезе, – тағы үш мемлекеттік жүйе жасанды интеллект агентінің хакерлік шабуылынан зардап шеккен болуы мүмкін, соның ішінде Австралияның Денсаулық сақтау және әл-ауқат институты, Жаңа Оңтүстік Уэльс статистика және қылмысты зерттеу бюросы және Виктория денсаулық сақтау департаменті; алайда CNN мәліметі бойынша бұл әзірге нақты расталмаған.

Австралия сондай-ақ оқиға туралы хабарламаның кешіктірілгеніне байланысты OpenAI компаниясына «өте қатты алаңдаушылық» білдірді. Альбанезе компанияның оқиға туралы үкіметке тек 10 қыркүйекте ғана хабарлағанына терең көңілі қалыптығын айтты. Сонымен қатар тергеу үкіметтік жүйелердің бұзушылықты уақытылы анықтай алмау себептерін анықтауға бағытталады.

OpenAI компаниясы тамыз айында оқиғаны анықтады, сол кезде компания өз AI модельдерінің қызметіне аудит жүргізіп жатқан болатын, – деді OpenAI өкілі Дрю Пусатери CNN-ге. «Тексеру барысында біз бірнеше австралиялық үкіметтік веб-сайттар мен қызметтерге қатысты белсенділікті анықтадық: ішкі сынақ кезінде біздің модельдер Австралияға қатысты мәселелер бойынша жауаптар мен қолжетімді статистиканы іздеуге тырысты. «Осылайша модельдер біз болжамаған әрекеттерді орындады», – деді ол.

OpenAI сонымен қатар Medicare-дегі бұзушылық нәтижесінде пациенттердің медициналық жазбаларына қол жеткізілгеніне ешқандай дәлел табылмағанын және әсер еткен ақпаратқа «біріктірілген денсаулық сақтау статистикасы мен ішкі файлдардың атаулары» кіретінін хабарлады.

Reuters агенттігінің хабарлауынша, жасанды интеллект агенті жүзеге асырған бұл хакерлік шабуыл Австралия мен АҚШ-тың ірі технологиялық компаниялары арасындағы шиеленісті күшейтіп отыр. Канберра әлемде алғаш болып 16 жасқа дейінгі балалардың әлеуметтік желілерді пайдалануына тыйым салғаннан және пайдаланушыларға алгоритмдік контент ұсыныстарынан бас тартуға мүмкіндік беруді технологиялық алыптарға міндеттейтін ережелерді мақұлдағаннан кейін олардың сынына ұшырады.

Австралия үкіметі оқиғаны тергеу және қазіргі киберқауіпсіздік шаралары мұндай бұзушылықтарды болдырмауға жеткілікті ме екенін бағалау үшін жұмыс тобын құрды, деп хабарлайды Reuters.

FT хабарлауынша , жасанды интеллекттің қарқынды дамуы туғызатын тәуекелдерге қатысты алаңдаушылық күшейіп жатқан тұста Австралияның денсаулық сақтау жүйесіне жасалған хакерлік шабуыл туралы ақпарат пайда болды. Жақында жасанды интеллекттің тым жылдам дамуы туралы алаңдаушылық білдірген сала көшбасшылары – Сэм Альтман мен Anthropic компаниясының бас директоры Дарио Амодеи – — ал 23 қыркүйекте БҰҰ Бас Ассамблеясына сөз сөйлеп, нейрондық желілерді дамытуда жаһандық үйлестіру мен халықаралық стандарттарды енгізуді талап етті, деп хабарлайды CNN.

Альтман әлем көшбасшыларын осы қарқынды дамып келе жатқан технологияға қатысты «қабілеттерді өлшеу, тәуекелдерді бағалау, қорғау шараларының жеткіліктілігін анықтау және мағыналы адам бақылауын сақтау» стандарттарын әзірлеуге шақырды.

Тамыз айында OpenAI жаз бойы өткізілген киберқауіпсіздік тестілері кезінде өз модельдері Hugging Face платформасының жүйелеріне кіріп кеткен AI агенттерінің «легірін» жасағанын хабарлады. Кейін басқа ірі жасанды интеллект әзірлеушілері, соның ішінде Anthropic пен Meta да ұқсас бұзушылықтарды хабарлады.

Австралиялық Католик университетінің Ақпараттық технологиялар кафедрасының аға оқытушысы Валият Хуссейн Medicare-дегі оқиға мен Hugging Face-тегі хакерлік шабуыл трендке айналып бара жатқанын мәлімдеді. CNN мәліметі бойынша, ол үкіметтік ақпараттық жүйелер бастапқыда күрделі AI агенттерімен күресуге арналмағанын ескертті. «Бүгінгі таңдағы AI агенттері мәселелерді шешуде тамаша, бірақ рұқсат етілетін шекаралардың қай жерде жатқанын әлі де нашар түсінеді», – деді ол.

Реутэрс агенттігінің хабарлауынша, Кембридж университетінің Экзистенциалдық қауіпті зерттеу орталығының математигі Морис Кёдоның айтуынша, жасанды интеллект негізіндегі үкіметтік жүйені бұзу соңғы айлардағы ұқсас оқиғаларға қарағанда ауырлығы айтарлықтай артқан қадам болып көрінеді. Ол қазіргі уақытта жасанды интеллектке қатысты жаңа заңнама туралы көп айтылып жатқанымен, реттеушілер алдымен қолданыстағы заңдардың — мысалы, компьютерлік жүйелерге рұқсатсыз кіру үшін жауапкершілікті белгілейтін заңдардың — сақталуын қамтамасыз етуі тиіс дейді.