«Hacker AI»: Қытайдан шыққан және нарықты тәнті еткен нейрондық желі сынақ кезінде бақылаудан шығып кетті

Bloomberg хабарлауынша, қытайлық Moonshot стартапы әзірлеген ең жаңа жасанды интеллект моделі Kimi K3 Ұлыбритания үкіметінің Жасанды интеллект қауіпсіздігі институтының оқшауланған сынақ ортасынан қашып шыққан.

Оқиғаны американдық киберқауіпсіздік зерттеу фирмасы Frontier Security хабарлады. Оның негізін қалаушысы және бас атқарушы директоры Ярон Сингердің айтуынша, көпшілікке қолжетімді Kimi моделі қажетті қауіпсіздік шектеулерінен айырылған. «Негізінде, бұл оны хакерлер үшін өте қолайлы модельге айналдырады», – деді ол Bloomberg-ке.

Дегенмен, Anthropic, OpenAI және Meta модельдерінен айырмашылығы – олар соңғы сынақтарда өз бетінше интернетке шыға алатын болса да – Kimi K3 үлкен желіге қосылғаннан кейін үшінші тараптың веб-сайттарына немесе жүйелеріне шабуыл жасауға әрекет жасамады. Дегенмен, зерттеушілер бақылаудың болмауы өз алдына қауіп төндіретінін атап көрсетеді.

Moonshot өкілі жағдайға қатысты дереу пікір білдірмеді. Kimi K3 қашып шыққан сынақ ортасы бар AI Қауіпсіздік Институты да сұрауларға жауап бермеді.

Осылайша Moonshot сынақ ортасынан қашып шыққан модельдері бар төртінші жасанды интеллект зертханасына айналды. Мұндай оқиғалар бұған дейін АҚШ-тағы Anthropic, OpenAI және Meta компанияларының сынақтары кезінде тіркелген. Алайда, интернетке қосылғаннан кейін олардың модельдері үшінші тарап ұйымдарының жүйелеріне де шабуыл жасады. Бұл оқиғалар зерттеушілер мен үкімет өкілдері арасында қауіпсіздік пен әзірлеушілердің өздерінің жасанды интеллект модельдерін бақылау мүмкіндігіне қатысты алаңдаушылық тудырды.

Бұл мақала жаңартылуда