«Бұл баллистикалық зымырандарды таратып бергендей»: Дэймон Mythos жасанды интеллект моделінің қауіптері туралы

Business Insider мәліметі бойынша, нарықтық капитализациясы бойынша АҚШ-тың ең ірі банкі JPMorgan-ның бас атқарушы директоры Джейми Даймон Anthropic компаниясының Mythos класындағы модельдеріне кең тараған қолжетімділіктің салдары туралы алаңдаушылық білдірді. Аталған модель – операциялық жүйелердегі осалдықтарды анықтай алатын Anthropic компаниясының қуатты, озық Mythos 5 жасанды интеллект моделі. Ол ешқашан жария түрде қолжетімді болмаған.

16 шілде, бейсенбі күні Пенсильванияда өткен қорғаныс және инновациялар саммитінде Дэймон Mythos «нақты проблема» екенін және АҚШ үкіметі оны «қазіргі уақытта бақылауда ұстап отырғанын» мәлімдеді.

Ол модель енгізіліп жатқанда оны қадағалау үшін мемлекеттік реттеу қажет екенін ерекше атап өтті, сондай-ақ осындай жасанды интеллект моделіне кең ауқымды қолжетімділік беру арқылы «Mythos жағдайында сіз баллистикалық зымырандарды жеке тұлғалардың қолына ұсынып отырсыз» деді.

Anthropic осы мәселе бойынша Business Insider-дің пікір сұрауларына жауап бермеді.

Anthropic биыл сәуірде Mythos жасанды интеллект моделінің шектеулі зерттеулік шығарылым (Project Glasswing) аясында жарияланғанын хабарлады. Компания мәлімдеуінше, Mythos соншалықты қуатты болғандықтан, оны дұрыс пайдаланбаса, ірі операциялық жүйелер мен веб-шолғыштардағы қолданыстағы киберқауіпсіздік жүйелерін айналып өтуі мүмкін. Сыншылар мен Anthropic компаниясы модель жалпыға қолжетімді болса, ол ауыр киберқауіпсіздік тәуекелдерін тудыратынын ескертті. Нәтижесінде оған қол жеткізу шектеліп, тек ірі корпоративтік клиенттерге ғана берілді.

Маусым айында Anthropic Fable 5-ті көпшілікке таныстырды — бұл Mythos-сыныбындағы модель, оған киберқауіпсіздік пен дистилляциялық шабуылдар сияқты сезімтал тақырыптарға қатысты сұрауларды бұғаттайтын «guardrails» енгізілген (кибер-шпиондық – шабуылдаушылар үшінші тараптың жоғары деңгейлі жасанды интеллект моделіне сұраулар жіберіп, алынған жауаптарды өздерінің арзанырақ көшірмесін оқыту және жасау үшін пайдаланады), сондай-ақ биология мен химияға қатысты сұрауларды да бұғаттайды.

Алайда, оның шыққанына бір апта өткен соң, АҚШ үкіметі осы модельдің қауіпсіздік шараларын айналып өтуге болатынын анықтап, Fable 5-ке де қолжетімділікті бұғаттауды талап етті. АҚШ Сауда департаменті сондай-ақ «экспорттық бақылау нұсқаулығын» шығарып, оған сәйкес Fable 5 пен Mythos 5-ке АҚШ ішінде де, сыртында да, соның ішінде Anthropic-тің шетелдік қызметкерлері де бар барлық шетелдік азаматтарға қолжетімділік тыйым салынады. Оған жауап ретінде Anthropic барлық пайдаланушыларға Fable 5 жасанды интеллект моделіне қолжетімділікті бұғаттады. Алайда 30 маусымда жасанды интеллект зертханасы осы модельге қолжетімділік қалпына келтірілгенін және АҚШ Сауда департаменті оның экспортына салынған шектеулерді алып тастағанын хабарлады. Бөлім бастығы Говард Лутник сол кезде Anthropic компаниясы «ЖИ модельдеріне қатысты қауіпсіздік тәуекелдерін белсенді түрде анықтап, азайтуға» келіскенін мәлімдеді, сонымен қатар үкіметпен болашақ шығарылымдарға арналған протоколдарды әзірлеуде ынтымақтастық жасауға және нейрондық желілерінде анықталған кез келген «зиянкестік әрекет» туралы хабарлауға келіскенін айтты.

Anthropic IPO-ға дайындалып жатыр, ол, Bloomberg мәліметі бойынша, қазан айында-ақ өтуі мүмкін. Егер ол қор нарығына шықса, компания қазір 2027 жылы тізімге енуді көздеп отырған OpenAI-ды және Шанхайда IPO өткізуге дайындалып жатқан қытайлық DeepSeek фирмасын басып озады. Агенттіктің мәліметінше, Anthropic компаниясының кірісінің өсуі оның жасанды интеллект модельдерінің арқасында жүзеге асып отыр, алайда компания реттеуші тәуекелдер мен Дональд Трамп әкімшілігімен шиеленіскен қарым-қатынастарға тап болуда. Мамырда бұл жасанды интеллект компаниясы кіріс қарқыны 47 миллиард долларды құрағанын хабарлады, ал 2025 жылға жоспарланған нақты жылдық кіріс 10 миллиард долларды құрайды. Bloomberg хабарлауынша, Anthropic екінші тоқсанға 10,9 миллиард доллар кіріс күтеді.