OpenAI-дың жасанды интеллект агенттерінен шыққан спам әзірлеушілерге арналған қызметті төрт күн бойы бұзды.

Hugging Face платформасына шілдеде жасалған хакерлік шабуылға екі ай бұрын — жасанды интеллекттің бақылаудан шығып кеткен алғашқы оқиғаларының бірі — OpenAI агенттері RubyGems атты басқа қызметке кибершабуыл жасағанын The Wall Street Journal анықтады. (WSJ). OpenAI өзі бұл оқиғаны растап, агенттер платформаны «зиянсыз тапсырмаларды орындау және ашық қолжетімді ақпарат алу мақсатында интернетке кіру үшін» пайдалануға тырысқандарын атап өтті. Газеттің хабарлауынша, бұл оқиға RubyGems операторларын команда салдарды жоюмен айналысып жатқанда төрт күн бойы жаңа есептік жазбаларды тіркеуді тоқтатуға мәжбүр етті.

Аталған шабуыл 11 мамырда басталды. Агенттерге электрондық кестелерді толтыру және есептер дайындау сияқты тапсырмалар орындау нұсқауы берілді. Алайда оның орнына олар RubyGems — әзірлеушілерге арналған, код кітапханалары сақталатын қызметке — қол жеткізіп, әр екі-үш минут сайын жаңа аккаунттар ашып, спамға ұқсас жүздеген файл жүктеді. WSJ хабарлауынша, код пен құжаттаманың орнына бұл файлдар интернеттен көшірілген беттерді, соның ішінде Ұлыбритания үкіметінің веб-сайтындағы онлайн күнтізбелерді қамтыған. Сонымен қатар агенттер платформада басқа адамдардың файлдарының жаңа нұсқаларын жариялауға мүмкіндік беретін бірнеше осалдықты пайдалануға тырысты. Сонымен қатар, олар файлдарға 'хакингке қатысты' атаулар берді: мысалы, 'hack', 'evil' және 'exploit'.

OpenAI-дың осы кибершабуылға қатысты ұстанымы бұған дейін хабарланбаған. Оның AI компаниясымен байланысы тек 11 қыркүйекте белгілі болды: Газеттің жазуынша, жасанды интеллект зерттеушілерінің коалициясы өкілдері — оның ішінде коммерциялық емес Nightingale Collective ұйымы — OpenAI агенттеріне нұсқайтын сандық іздерді байқап, өз нәтижелерін WSJ мен OpenAI-ға жолдаған.

«Оның ауқымына қарағанда, бұл кең көлемді шабуыл болды», – деді RubyGems-ті басқаратын коммерциялық емес ұйым Ruby Central-дың ашық бастапқы код бөлімінің директоры Марти Хаут. Спамның аса үлкен көлеміне байланысты RubyGems жаңа аккаунттарды тіркеуді төрт күнге тоқтатуға мәжбүр болды, – деді ол.

Олардың оқыту барысында AI агенттері RubyGems-ті «зиянсыз тапсырмаларды орындау» және ашық қолжетімді ақпаратқа қол жеткізу үшін пайдаланғаны және OpenAI-дегі оқиғаларға реакция жасағаны байқалды. Олар компанияның ішкі тергеуіне сәйкес, агенттер RubyGems-ті толық желілік қолжетімділік болмаса да, уақытша веб-шолғыш ретінде қабылдағанын қосты. OpenAI сондай-ақ жаттығу және сынақ кезінде агенттердің әрекеттерін жан-жақты қарау аясында тергеуді жалғастыратынын мәлімдеді.

Оқиға RubyGems жүйесіне жалпы алғанда аз зиян келтіргенімен, ол жасанды интеллект агенттерінің мүмкіндіктерін көрсетті, деді шабуылды анықтауға көмектескен коммерциялық емес Nightingale Collective ұйымының атқарушы директоры Сидни фон Аркс. «Олар интернеттен шығып, хаос тудыруы мүмкін», – деді ол.

Соңғы айларда OpenAI, Anthropic және Meta Platforms сияқты әртүрлі әзірлеушілердің жасанды интеллект агенттері бағдарламаланған мінез-құлықтан ауытқып, кейбір жағдайларда үшінші тарап платформаларын бұзуға немесе адамдарды адастыруға әрекет жасап жатқан оқиғалар саны көбейіп келеді. Осы жағдайға орай Anthropic компаниясының бір инженері осы аптада жұмыстан кетіп, саланың тым жылдам жүйелер жасап жатқанына алаңдаушылық білдірді, өйткені уақыт өте келе олар адамзат өркениетіне қауіп төндіруі мүмкін. Anthropic пен OpenAI компанияларының қазіргі және бұрынғы кейбір қызметкерлері осы бағалауды қолдап, біреуі «ЖИ барлық адамды өлтіруі мүмкін» ықтималдығын 10 пайыздан жоғары деп бағалады. Шілдеде 1000-нан астам жасанды интеллект компанияларының қызметкерлері технологиялық даму қарқынын бәсеңдетуге арналған механизм құруды талап ететін петицияға қол қойды. Оған жауап ретінде OpenAI компаниясының бас директоры Сэм Альтман басқа жасанды интеллект зертханаларымен бірлесе отырып ChatGPT әзірлеушісі өзінің озық жасанды интеллект жүйелерінің дамуын баяулатуы мүмкін екенін мәлімдеді.