Google-дың жасанды интеллектісі «хакерлер клубына» қосылды: Gemini үш компанияның жүйелеріне кірді.

Google-дың Gemini жасанды интеллект моделі киберқауіпсіздік тестілеуі кезінде интернетке қол жеткізіп, үш басқа компанияның жүйелеріне кіріп, бұзып кірді. Google бұл оқиғаны растады. Бұл компанияның жасанды интеллектісіне қатысты осындай алғашқы оқиға, басқа AI әзірлеушілерінің ұқсас оқиғалар туралы хабарламаларынан кейін. The Wall Street Journal жазғандай, Gemini осылайша Anthropic, OpenAI және Meta компанияларының жасанды интеллект агенттерінің ізімен жүріп, «хакерлер клубына» қосылды.

Google-дың мәліметінше, оқиға мамыр айында болған. Компания қауіпсіздік серіктесі Irregular-пен бірлесіп AI моделіне сынақ жүргізді — дәл осы фирма бұған дейін Anthropic, OpenAI және Meta компанияларының AI модельдері мен агенттерінде ұқсас ақауларды анықтаған.

Бір жағдайда, компания мәліметі бойынша, Gemini құпиясөздерге брутфорс шабуылын жүргізіп, қауіпсіз жүйеге кіру мүмкіндігін алды. Тағы екі жағдайда ол қызметкерлердің кіру деректерін қоғамдық репозиторийде (әзірлеушілер бірлесіп жазатын, алгоритмдер мен бағдарламалық кодты жазу және сақтау үшін әзірлеушілер бірлесіп жұмыс істейтін репозиторий). Бұл кейіннен оған қорғалған жүйелерге кіруге мүмкіндік берді. Әрбір жағдайда модель шынайы компанияның жүйесіне кіргенін, модельдік емес екенін анықтағаннан кейін кіру әрекетін тоқтатты, деп хабарлады Google. Сонымен қатар сынақтар кезінде ойдан шығарылған компаниялардың атаулары шынайы әлемдегі компаниялардың атауларымен бірдей болған.

Компаниялар Irregular компаниясына шабуылдар туралы шілде айының соңында — OpenAI агенттері Hugging Face платформасын бұзып кіргені анықталғаннан кейін — хабарланғанын нақтылады. Алайда Google бұған дейін бұзушылықтар туралы ешқандай ақпарат жарияламаған — компания бұл оқиғалар туралы алғаш рет The Wall Street Journal газетіне сұрақтарға жауап ретінде айтты, деп жазады газет. Google Gemini-дегі бұзушылық қатысқан компанияларға ешқандай зиян келтірмегенін баса айтты. Жасанды интеллект әзірлеушісі нақты қай компаниялар нысанаға алынғанын көрсетпеді.

«Бұл оқиға қуатты жасанды интеллект модельдерін жауапкершілікпен әрекет етуге оқытудың маңыздылығын көрсетеді», – деді бұл оқиғаға қатысты Google компаниясының Қауіпсіздік жүйелері инженериясы жөніндегі вице-президенті Хизер Эдкинс. «Осы жағдайда модель дұрыс әрекет етті», – деп есептейді ол.

«Бұл олардың [Google-дегілердің] осалдықтарды жариялауды реттейтін ережелердің артына тығылып жатқандай әсер қалдырады, бұл мүлде басқа мәселе», деді Corridor стартапының басшысы Джек Кейбл, ол компания жасанды интеллект негізіндегі қауіпсіздікке маманданған және оқиғаға жауап ретінде (WSJ-де келтірілген) осылай айтты. «Негізгі мәселе – модельдер өздеріне жүктелген міндеттерден асып түсіп, нақты кибершабуылдар жасап жатыр, және менің ойымша, қоғам бұл туралы хабардар болуы керек», деді ол, Google оқиғалар туралы ақпаратты бірден жарияламағанына қатысты пікір білдіріп.

Google-дың жасанды интеллект моделі үшінші тарап компанияларының жүйелерін бұзғаны туралы ақпарат Anthropic, OpenAI және Meta сияқты басқа жасанды интеллект әзірлеушілерінің агенттері мен модельдеріне қатысты ұқсас оқиғалар сериясынан кейін пайда болды.

Бұл мақала жаңартылуда