Meta-ның жасанды интеллект моделі сынақ кезінде басқа компанияның жүйесін бұзып кірді.

Meta өзінің AI моделі киберқауіпсіздік тестілеу кезінде басқа компанияның жүйесіне заңсыз кіргенін мойындады. Осылайша, Business Insider хабарлауынша, ол сынақ кезінде AI модельдері бақылаудан шығып кеткен үшінші AI зертханасы болды — OpenAI мен Anthropic-тен кейін.

Мәселе Muse Spark AI моделіне қатысты, ол, Meta мәлімдеуінше, «үшінші тарап қызметіндегі қауіпсіздік осалдығын пайдаланған, басқа компаниялардың бұрын хабарлаған оқиғаларына ұқсас». Оқиға Meta пайдаланатын тәуелсіз сынақ компаниясы Irregular жасаған кездейсоқ «конфигурациялық қате» салдарынан орын алды ( CNN-ге сілтеме жасап). Нәтижесінде AI моделі сынақ кезінде «кездейсоқ» интернетке қол жеткізді.

Оқиғаны алғаш хабарлаған The Information басылымының мәліметінше, Meta-ның нейрондық желісі сынақ кезінде атауы аталмаған компанияның жүйелеріне кіріп, оның ішкі жүйесіне өзгерістер енгізген. Meta бұл компанияның қай компания екенін нақтылаған жоқ.

Irregular өз кезегінде оқиғаға пікір білдіріп, бұзудың дәл өткен аптада Anthropic компаниясының AI модельдеріне интернетке кіруге мүмкіндік берген сол себептер бойынша болғанын атап өтті, одан кейін олар үш түрлі ұйымның жүйелерін бұзып алған. «[Meta-ның AI моделіне қатысты оқиға] оқшауланған ортадан қашуға немесе күрделі кибершабуылға байланысты емес», – деп сендірді компания.

Барлығы мына себептен болды: кейбір сынақ орталарында нақты әлемдегі қауіп-қатер сценарийлерін модельдеу мақсатында киберқауіпсіздік жүйелері сынақтан өткізіліп жатқанда жасанды интеллект модельдерінің интернетке қолжетімділігі шектеулі болған, деп CNN-ге жағдайды білетін дереккөз түсіндірді. Алайда осы нақты жағдайда сирек кездесетін «конфигурациялық ақау» пайда болды, – деді ол.

Үшінші тарап компанияларының жасанды интеллект модельдерінің бұзылғаны туралы – енді үшінші ірі жасанды интеллект зертханасынан – хабарламалар алаңдаушылық тудырып отыр Reuters жазады: әзірлеушілер барған сайын күрделене түскен AI жүйелерін бақылауда ұстай ала ма, сондай-ақ жетілдірілген нейрондық желілер мен AI агенттері өздері жаңа киберқауіпсіздік тәуекелдерін туғызуы мүмкін бе деген сұрақтар туындап отыр. Мысалы, Meta мен Anthropic модельдерінің үшінші тарап жүйелерін бұзуы интернетке кіруге мүмкіндік берген конфигурациялық қателерден туындаған. Ал OpenAI-дың AI агенті жағдайында технология қауіпсіздік жүйелері сынақтан өтіп жатқан кезде бұрын белгісіз болған осалдықты өз бетінше пайдаланып, интернетке қол жеткізген, деп хабарлайды агенттік.

Осы жағдайға орай, осы аптаның басында Ақ Үй Meta, Anthropic, OpenAI және Google сияқты жетекші жасанды интеллект әзірлеушілерінің өкілдерін шеберлік шегіндегі жасанды интеллект модельдеріне арналған киберқауіпсіздік сынақ стандарттарын талқылау үшін шенеуніктермен кездесуге шақырды.