«Клодқа жазылуы бар үш жігіт» AI-ды пайдаланып OpenAI-дың ішкі жүйесін бұзып кірді

Киберқауіпсіздік мамандарының шағын тобы — «ақ қалпақты хакерлер» деп аталатын (немесе Financial Times оларды «этикалық хакерлер» деп атайды) — Anthropic компаниясының Claude бағдарламасын пайдаланып, OpenAI қызметкерінің ChatGPT аккаунтына кіруге қол жеткізді. Бұл оларға компанияның ішкі код қоймасын — әзірлеушілер алгоритмдер мен бағдарламалық жасақтаманың бастапқы кодын бірлесіп жазатын, тексеретін және сақтайтын арнайы, шектеулі қойманы — көруге және оған өзгерістер енгізуді ұсынуға мүмкіндік берді. Қауіпсіздік олқылығын анықтағаннан кейін «ақ қалпақты хакерлер» оны OpenAI әзірлеушілеріне жолдап, AI зертханасынан 6 500 доллар сыйақы алды, деп хабарлайды The Wall Street Journal (WSJ).

OpenAI-ге жасалған хакерлік шабуыл 23 шілдеде басталды: Hacktron AI деп аталатын шағын компанияның мамандары Anthropic-тің Claude бағдарламасын пайдаланып, OpenAI қауымдастық форумындағы (Discourse платформасында жұмыс істейтін) осалдықты пайдаланды. Financial Times (FT) мәліметі бойынша, осылайша зерттеушілер ішкі аутентификация жүйелеріне қол жеткізіп, қызметкерлердің біріне тиесілі ChatGPT аккаунтын бақылауға алған. Бұл аккаунт GitHub-тағы жеке репозиторияға тікелей қол жеткізуге мүмкіндік берді. Мамандар ChatGPT-ті интерфейс ретінде пайдаланып, корпоративтік файлдарды көре алды.

Олардың айтуынша, құпия ақпаратқа қол жеткізгендерін түсінген бойда олар шабуылды тоқтатқан. Алайда OpenAI-ге есеп жолдамас бұрын зерттеушілер кейбір өзгерістер енгізуді сұрауға үлгерген. Олар алгоритмге құжаттама файлына 'Hacktron AI Team PoC' жолын және өздерінің X аккаунттарына сілтемелерді қосуды бұйырды. Бұл олардың компанияның құпия деректеріне шынымен қол жеткізгендерін дәлелдеді.

OpenAI GitHub-тағы ішкі аудит жеке репозиторияның метадеректері мен код өзгерістерінің тарихына тек «шектеулі оқу рұқсаты» болғанын растады. Бұл мәселелер қазір шешілді. Discourse өкілдері қауіпсіздік осалдығын хабарламаны алған күн – 25 шілдеде – жойғандарын хабарлады.

Financial Times хабарлауынша, Hacktron AI зерттеушілері қателіктерді анықтау бағдарламасы аясында OpenAI-дан 6 500 доллар алды — бұл бастама шабуылдаушылар пайдалана алмай тұрып осалдықтарды анықтауға бағытталған. «Зерттеушілерге бізге хабарласып, өздерінің табуларын бөліскені үшін алғыс айтамыз. Қауымдастыққа кіру токендеріне біздің қолжетімділік құқықтарымыз шектеулі және біз әсерленген токендер мен сеанстарды жойдық», – деді OpenAI мәлімдемесінде.

Anthropic жариялаған деректер әлемнің рекурсивті өзін-өзі жетілдіруге қаншалықты жақын екенін түсінуге мүмкіндік береді — яғни жасанды интеллект өзін немесе жаңа модельдерді оқытып, жетілдіре алатын сәт. Бұл шек AI жүйелерінің бақылауын қиындатып, адам бақылауынан айырылу қаупін тудыратын негізгі алаңдаушылықтардың орталығында тұр.

Алайда Anthropic өз модельдері әлі толықтай автономды түрде жұмыс істемейтінін қосты. Тапсырмалардың 90 пайызында жасанды интеллект адамдармен бірлесіп жұмыс істеп, олардың қадағалауымен үлкен көлемдегі жұмысты орындайды.

АҚШ пен Қытай арасындағы жасанды интеллект жарысының фонында OpenAI-ды бұзып кірген зерттеушілер бұл шабуыл жетекші хакерлік топтардың елдің технологиялық құпияларына қол жеткізудің нақты мүмкіндігі бар екенін дәлелдейді, деп жазады WSJ. «Менің ойымша, біз қытайлық шабуылдаушылар сияқты мықты емеспіз», – деді Hacktron AI компаниясының техникалық директоры Мохан Педхапати. «Біз тек Claude пен Codex (бағдарламалауға арналған AI моделі, ред. Oninvest)жазылымдары бар үш жігіт қанамыз».

Бұл оқиға AI хакерлігі дәуірінде корпоративтік құпияларды қорғаудың күрделілігін айқындайды, – дейді Abundant Security компаниясының (AI қауіпсіздігіне маманданған) техникалық директоры Джошуа Сакс, ол Hacktron AI есебін қарап шыққан. «Әлем бағдарламалық қамтамасыз етудегі қауіпсіздік олқылықтарына толы. Оларды әлі толық анықтай алмағанымыздың себебі – өткен жылға дейін мұндай олқылықтарды табуда сарапшы болған адамдардың саны небәрі бірнеше мың ғана еді», – деді ол. Алайда қазір AI агенттері бұл мүмкіндікті біліктілігі төмен мамандарға да қолжетімді етіп отыр, – деді Сакс.

Бұл хакерлік шабуыл 1 000-нан астам OpenAI жасанды интеллект агенті сынақ ортасынан шығып, стартап Hugging Face-ке шабуыл жасағаннан екі апта өткен соң орын алды. Осы оқиғадан кейін АҚШ пен Қытайдағы Anthropic, OpenAI, Meta және Moonshot сияқты жетекші жасанды интеллект зертханаларының агенттері мен модельдері бақылаудан шығып, бірқатар оқиғалар тізбегі орын алды.

Осы жағдайға орай 12 қыркүйекте Antrophic компаниясының бас атқарушы директоры Дарио Амодеи жасанды интеллект технологияларын дамытуды баяулатуды ұсынды, себебі прогресс тым жылдам жүріп жатыр және әзірлеушілер қауіпсіздікті қамтамасыз ету мен ықтимал зиянды азайтуда ілесе алмай отыр. Амодейдің пікірі OpenAI компаниясының бас директоры Сэм Альтман мен аэроғарыштық және жасанды интеллект компаниясы SpaceX-тің бас директоры Илон Маск тарапынан да қолдау тапты.