Anthropic басымдықтарды өзгертеді: стартап неге өздерінің жасанды интеллект қауіпсіздігі стандарттарын төмендетіп жатыр?
Ұзақ уақыт бойы Anthropic компаниясы, оның бас директоры AI стартапының қауіпсіздікті екінші орынға қойып, коммерцияландыру мен жылдамдықты басты назарға алғанына алаңдап OpenAI-ден кеткеннен кейін, қауіпсіздікке ең көп мән беретін AI ойыншыларының бірі ретінде танылды.
Anthropic бәсекелестік атынан кейбір қатаң қауіпсіздік шектеулерін жеңілдетуде / Фото: Tigarto / Shutterstock
Февраль айы бойы жаңартулары қор нарығында сатуларға себеп болған Claude Anthropic AI моделінің жасаушысы қауіпсіздік саясатының негізгі талаптарын жұмсартатынын жариялады. Wall Street Journal жазғандай, бұл стартап бұған дейін AI нарығындағы ең қауіпсіздікке басымдық беретін ойыншылардың бірі ретінде танылған.
Антропиктегі шешім басқа жасанды интеллект зертханаларымен бәсекеге қабілетті болу қажеттігіне байланысты қабылданды.
Мәліметтер
2023 жылы компанияның «Жауапты масштабтау саясаты» аясында ол, мысалы, биологиялық және химиялық қаруларды әзірлеу немесе тарату үшін қолданылуы мүмкін қауіпті болуы мүмкін модельдерді әзірлеуді кейінге қалдыруға уәде етті. Алайда 24 ақпан, сейсенбі күні жарияланған мәлімдемеде Anthropic өз ережелерін жаңартатынын хабарлады: компания бәсекелестеріне қарағанда айтарлықтай технологиялық артықшылығы жоқ деп санаса, енді жасанды интеллект модельдерін әзірлеуді автоматты түрде тоқтатпайды.
«Реттеуші орта жасанды интеллекттің бәсекеге қабілеттілігі мен экономикалық өсімге басымдық беруге қарай өзгерді, ал қауіпсіздікке бағытталған талқылаулар әлі федералдық деңгейде айтарлықтай қолдау тапқан жоқ», – деді компания мәлімдемесінде.
Өзгерістер туралы блог жазбасында компания сондай-ақ модельдерінің қауіпсіздік мақсаттары мен тәуекелдер туралы есептерін тұрақты түрде жариялайтынын, оларды «тәуелсіз үшінші тарап» бағалайтынын хабарлады. Anthropic мәлімдемесіне сәйкес, бұл үшінші тараптың жасанды интеллект қауіпсіздігі мамандарын тартуды, оларға есептердің толық нұсқасына қол жеткізуге мүмкіндік беруді және компанияның дәлелдері мен қорытындыларын ашық түрде бағалауды қамтиды.
Anthropic неге мұны жасап жатыр?
Антропоиктің қауіпсіздік ережелерін қайта қарауы күтпегендей көрінеді, өйткені компания ұзақ уақыт бойы қауіпсіздікке қатаң қарау арқылы бәсекелестерінен өзгешелене түсуге тырысып, жасанды интеллект саласында көшбасшылыққа таласып келген, деп жазады Bloomberg. Агенттіктің хабарлауынша, Anthropic компаниясының бас директоры Дарио Амодей бұған дейін OpenAI-да жұмыс істеп, компанияны бір бөлігінде қауіпсіздікті екінші орынға қойып, коммерцияландыру мен жылдамдыққа басымдық беруіне алаңдап тастап кеткен.
Алайда компанияның АҚШ Қорғаныс министрлігімен даудың фонында Anthropic-ке қысым күшейуі мүмкін, деп жазады The Wall Street Journal. WSJ мәліметі бойынша, Anthropic-тің Пентагонмен қорғаныс саласындағы келісімшарты Claude-ты аналитикалық жұмыстар мен деректерді өңдеуге, соның ішінде құпия ортада пайдалануға мүмкіндік берген. Сонымен бірге Anthropic өзінің AI платформасы Claude құралдарын ішкі бақылау немесе автономды қару жүйелері үшін қолдануға болмайтынын бұрыннан мәлімдеген. Axios дереккөздерінің айтуынша, Пентагон бірнеше ай бойы стартаппен Клоудты әскери мақсатта нақты қалай қолдануға болатыны жөнінде келіссөздер жүргізді. Нәтижесінде қорғаныс департаменті Anthropic-ке ережелерді 27 ақпанға дейін жеңілдетуді талап етті, әйтпесе компания келісімшарттан айырылуы мүмкін, деп жазады WSJ.
Жақында дейін басылымның жазуынша, Anthropic құпия режимде жұмыс істеуге рұқсат етілген жалғыз жасанды интеллект модельдерінің әзірлеушісі болып саналған. Алайда 23 ақпанда АҚШ Қорғаныс министрлігі xAI-пен де келісімге қол қойғаны белгілі болып, Grok-ты құпия желілерде пайдалануға рұқсат берілді. Сонымен қатар OpenAI мен Google-дың да Пентагонмен келісімдері бар.
Сонымен бірге Anthropic компаниясының өкілі The Wall Street Journal басылымына компанияның қауіпсіздік саясатын қазіргі қайта қарау AI стартапының әскери ведомствомен келіссөздерімен байланысты емес екенін айтты.
Контекст
Wall Street Journal жазғандай, Anthropic компаниясы OpenAI, Илон Масктың xAI және Google сияқты үнемі озық жасанды интеллект құралдарын шығаратын компаниялардан қатты бәсекеге тап болуда. Anthropic пен OpenAI биылдың өзінде жария компания мәртебесін алуды қарастырып жатыр, жасанды интеллектіге инвесторлардың жоғары қызығушылығын пайдалануды көздейді. Anthropic компаниясының соңғы бағалануы 380 миллиард долларды құрады, ал OpenAI-дың жинаған қаржысына сүйене отырып жалпы бағалануы 850 миллиард доллардан асады.
Дегенмен, қауіпсіздік мәселелері Anthropic және басқа да жасанды интеллект компанияларының қызметкерлерін алаңдатуды жалғастыруда. Соңғы апталарда бірнеше жасанды интеллект зерттеушілері Anthropic пен басқа технологиялық компаниялардан кетіп, миллиардтаған долларлық инвестициялар мен ықтимал IPO-ға дайындық аясында қауіпсіздік мәселелері екінші жоспарға сырғып бара жатқанын ескертті, деп жазады WSJ. Басылым мәліметі бойынша, ChatGPT әзірлеушісі OpenAI мен Google да ұқсас жағдайға тап болуда.
Anthropic 2021 жылы Дарио Амодей мен басқа да құрылтайшылар OpenAI-ден кеткеннен кейін құрылды, себебі олар ChatGPT әзірлеушісі қауіпсіздік мәселелеріне жеткілікті назар аудармайды деп санады.
2022 жылы Амодей Клодтың ерте нұсқасын шығармауға шешім қабылдады, себебі ол қауіпті технологиялық жарыс тудыруы мүмкін деп қорықты. Алайда бірнеше аптадан кейін OpenAI ChatGPT-ті таныстырды, және Anthropic бәсекелесіне ілесуге мәжбүр болды. Кейін Амодей өзінің шешіміне өкінбейтінін айтты.
