Клод Anthropic-тегі жасанды интеллект зерттеулерінің төрттен бір бөлігінен астамын «басқарады».

AI әзірлеушісі Anthropic компаниясының ішіндегі мәлімет бойынша, оның Claude жасанды интеллект моделі келесі буын жасанды интеллектіні жасауға бағытталған зерттеу және инженерлік жұмыстардың 26 пайызын «қадағалайды». Наурыз айында бұл көрсеткіш 1 пайыздан кем деп бағаланған болатын, – деді компания. Anthropic жаңа деректерді жасанды интеллекттің даму қарқынын көрсету үшін жариялауды жоспарлап отырған тұрақты есеп беруінің бір бөлігі ретінде ұсынды. Бұл хабарландыру компанияның блогында жарияланды.

Компаниялар түсіндіргендей, нәтижесінде Claude чат-боты қызметкерден жалпы нұсқау алғаннан кейін тапсырманың басым бөлігін орындай алады, ал адам тек үдерісті қадағалайды. Anthropic сондай-ақ инженерлер зертханада жүргізілген зерттеу жобаларының 90 пайыздан астамында жасанды интеллектіні пайдаланғанын хабарлады. Алайда компания бағаланған ешбір тапсырмада Claude толықтай автономды түрде жұмыс істемегенін ерекше атап өтті.

Корпоративтік мақсаттарға жасанды интеллекттің қосқан үлесін бағалау үшін Anthropic технологиялық дамуды бақылайтын тәуелсіз коммерциялық емес ұйым Epoch AI әзірлеген арнайы шкаласын пайдаланады. 0-деңгейде (AL0) жұмыста жасанды интеллект мүлде қатыспайды, ал ең жоғары, бесінші (AL5) деңгейде «жасанды интеллект адамның қатысуынсыз толықтай автономды түрде жұмыс істейді». Қазіргі уақытта компания негізінен AI қатысуын орташа деңгейде, AL3-те тіркейді — яғни AI адамдармен «ынтымақтасады» және тікелей қадағалаумен көп көлемдегі жұмысты орындай алады.

Anthropic жариялаған деректер AI индустриясының «рекурсивті өзін-өзі жетілдіруге» қаншалықты жақын екенін анықтауға көмектеседі, оны AI компаниясы «өз ізбасарын толықтай автономды түрде жасай алатын модель» деп сипаттайды, деп жазады Business Insider. Бұл ақпараттың жариялануы адамның аз ғана араласуымен өзін-өзі дамыта алатын деңгейге жетеді деген алаңдаушылықтың күшеюі аясында өтіп отыр. Зерттеушілер жасанды интеллект агенттері автономды болған сайын олардың мінез-құлқы жасаушылардың ниетінен ауытқып, оларды бақылау мен қадағалау қиындай түсуі мүмкін екенін ескертеді.

Осы жағдайға орай демалыс күндері Anthropic компаниясының бас директоры Дарио Амодей жасанды интеллекттің даму қарқыны жеделдегенін ескере отырып — бар болғаны 6–12 айдың ішінде — стартап Hugging Face-ке шабуыл жасаған агенттер секілді агенттер легі, «бүкіл интернетті басып алуға қабілетті» болуы мүмкін, бұл жүздеген миллиард долларлық шығынға әкелуі ықтимал. Осыған орай Амодеи жасанды интеллекттің даму қарқынын бәсеңдетуді талап етті. Оған OpenAI-дың басшысы және аэроғарыш-AI корпорациясының бас директоры Илон Маск қолдау көрсетті. Алайда нарықтағы барлығы бұл ескертулерді байыпты қабылдаған жоқ; мысалы, әйгілі қысқа сатушы Майкл Бэрри Anthropic компаниясының бас директорының пікірлерін IPO алдындағы өзін жарнамалау деп санады.