OpenAI-дың ең озық модельдері бақылаудан шығып, «бұрын-соңды болмаған» хакерлік шабуыл жасады.
Нейрондық желілер тестілеу «құмсалғысынан» қашып шығып, «AI үшін GitHub»-ты бұзып кірді.
OpenAI агенті сынақ ортасынан қашып шығып, интернетке шығып, хакерлік шабуыл жасау үшін кіру деректерін ұрлады / Фото: Prathmesh T/Shutterstock.com
OpenAI-дың ең озық модельдері қауіпсіздік тесті кезінде бақылаудан шығып кетті: Оларды пайдаланып жасалған автономды агент оқшауланған сынақ ортасынан қашып шығып, интернетке қосылып, Hugging Face — AI үшін «GitHub» деп аталатын платформаны бұзып кірді, онда AI жобалары жарияланып, жүктеледі. OpenAI бұл оқиғаны «бұрын-соңды болмаған кибер оқиға» деп сипаттады. Financial Times мәліметі бойынша, бұл адам араласуынсыз жасанды интеллект жүзеге асырған кибешабудың көпшілікке белгілі алғашқы жағдайларының бірі.
ЖИ қалай қашып шықты
Сынақты өткізу үшін OpenAI екі модельдің қауіпсіздігін әдейі әлсіретіп, оларға хакерлік шабуыл жасауға нұсқау берді. Олар әрекеттерін шектеу және интернеттен оқшаулау үшін арнайы жасалған «құм жәшігінде» жұмыс істеді. Алайда модельдер бұрын белгісіз болған осалдықтарды анықтап, «құм жәшігінен» шығып, интернетке қол жеткізді. Содан кейін жасанды интеллект агенті кіру деректерін ұрлап, OpenAI-ға сілтеме жасаған FT хабарлауынша, Hugging Face-ке шабуыл жасады.
Хакерлік шабуылдың артында кім тұрды?
OpenAI хабарлағандай, сынақтарға шілдеде шығарылған GPT-5.6 Sol моделі мен компания қазір шығаруға дайындап жатқан одан да қуатты екінші модель қатысқан. Сонымен қатар компания кибершабуылдарды жүзеге асыруға арналған мүмкіндіктері барған сайын күрделене түскен нейрондық желілер кеңінен тарала бастаған сайын мұндай оқиғалар жиілей түсетінін ескертті.
Зиянды ниет болмады
Hugging Face хакерлік шабуылдан кейін OpenAI-пен тығыз жұмыс істегенін мәлімдеді. «Біз олардың жаман ниеті болмағанына қатты сенімдіміз. Жасанды интеллекттің мұның бәрін өз бетінше жасағанына таңғаламыз!» деп жазды Hugging Face компаниясының бас директоры Клемент Деланг X желісінде.
Одан да жаман болады
Luta Security компаниясының басшысы Кэти Муссорис бұл оқиғаны жаңа кибершабуылдардың алғышарты деп сипаттады. Ол қазіргі модельдерді «әлемдегі ең ақылды осьмірілер – қашу шеберлері: олардың шексіз көп манжеттері бар және кез келген жерден сығылып өте алады» деп салыстырды, деп хабарлайды Reuters.
Киберқауіпсіздік фирмасы Tolmo-ның инженері Мэтт Суиш мұндай шабуылдарға арналған технологияның ең озық зертханалардың шегінен әлдеқашан асып кеткенін атап өтті: оның командасы соңғы модельдерсіз-ақ ұқсас нәтижелерге қол жеткізді.
