Anthropic компаниясы жасанды интеллектіні биологиялық қару жасау үшін қолдануға бағытталған әрекеттер туралы айтты.

Anthropic, әлемдегі ең құнды жасанды интеллект стартапы, биыл өзінің модельдерін биологиялық қару әзірлеуге ықтимал зерттеулер үшін пайдалануға бағытталған бірнеше әрекетті анықтап, бұғаттағанын хабарлады. Компания мұндай бес жағдайды сипаттап, жасанды интеллект модельдері күшейген сайын тәуекелдердің артып келе жатқанын ескертті.

Осы жағдайларда пайдаланушылар AI модельдеріне енгізілген шектеулерді айналып өтіп, зерттеулерінің шынайы мақсаттарын жасыруға тырысқанын Anthropic мәлімдеді. Компания 2026 жылдың қыркүйегіне арналған «ЖИ-ді теріс пайдалануды анықтау және оған қарсы күрес» атты есеп жариялады. Кейбір пайдаланушылар компания өз модельдеріне қолжетімділікті тыйым салған елдерде, соның ішінде Ресей, Қытай және Иранда орналасқан.

Ең ауыр жағдайлардың бірінде «қолдаусыз аймақтан» келген зерттеуші бірнеше апта бойы Claude жасанды интеллектісін қолданып, құс тұмауы вирусын қамтитын тәжірибелерді жоспарлады. Anthropic компаниясының қауіпсіздік жүйесі оның қолжетімділігін шектеп, тек ең әлсіз модельдерді ғана қалдырды.

Дегенмен компания аталған істерге қатысқан ғалымдардың шынында зиян келтіруді көздегенін айта алмайтынын ерекше атап өтті. Компания мәліметі бойынша, биологиялық қару жасауға қолданылатын сол білім мен құралдар вакцина әзірлеуде де қолданылады. Anthropic есепте аталған аккаунттарды бұғаттады, бірақ зерттеу ұйымдарының атауларын немесе оқиғалардың болған елдерін жарияламады.

«Біз осы мысалдарды бөлісу арқылы жасанды интеллект индустриясында және үкіметтер арасында жаңа пайда болатын биологиялық қауіптер мен оларды шешу жолдары туралы пікірталас тудырамыз деп үміттенеміз», – деді компания.

Жасанды интеллект қауіпсіздігі жөніндегі пікірталас осы аптаның басында ушығып кетті: 9 қыркүйекте Anthropic компаниясынан кеткеннен кейін бұрынғы қызметкер Джейкоб Коксон жасанды интеллектіні дамыту топтары «шын мәнінде оны онжылдық соңына дейін бәрімізді өлтіруі мүмкін деп санайды» деді. Anthropic зерттеушісі Эван Хьюбингер де осы пікірмен келісіп, әлеуметтік желілер платформасы X-тегі жазбасында: «Менің бағалауымша, келесі онжылдықта мұндай сценарийдің ықтималдығы 10 пайыздан асады», – деп жазды.

Financial Times хабарлауынша, жыл басында Anthropic компаниясының Mythos сияқты жетілдірілген модельдердің дамуынан кейін технологияға қатысты алаңдаушылық күшейе түсті. Шілдеде OpenAI өз модельдерінің автономды түрде AI стартапы Hugging Face-ті бұзғанын хабарлап, нарықта да алаңдаушылық тудырды.

Жасанды интеллект компанияларының басшылары мен биологиялық қауіпсіздік сарапшылары мұндай технологияларды реттеу қажеттігін барған сайын жиірек айтып отыр, себебі олар террористік ұйымдар, мемлекеттік органдар немесе тіпті жеке адамдар тарапынан биологиялық қару жасау немесе қауіпті патогендерді тарату үшін пайдаланылуы мүмкін, деп хабарлайды FT.

Дегенмен, газет жазғандай, жасанды интеллектті пайдалана отырып биологиялық қарудың теориялық жобасын жасау мен оны нақты өндіру арасында әлі де айтарлықтай технологиялық және ресурстық кедергілер бар.

Anthropic сондай-ақ өзінің технологиясын дұрыс пайдаланбаудың басқа да жағдайларын хабарлады — алаяқтыққа арналған жалған танысу қосымшалары желісінен бастап диссиденттерді бақылау жүйелеріне дейін. Сонымен қатар, 10 қыркүйекте компания Moonshot пен DeepSeek-ті қоса алғанда, жеті қытай зертханасы «дистилляция» деп аталатын әдісті қолдана отырып, оның модельдерінің мүмкіндіктерін қайталауға тырысқанын мәлімдеді. — бұл әдіс арқылы әзірлеуші өздерінің әлсіз жүйесін жақсарту үшін қуатты әрі ірі AI моделінің деректерін пайдаланады.