Nvidia AI агенттерінің бақылаудан шығуына жол бермейтін жүйені таныстырды.
«Бұл Hugging Face-тегі бұзушылықтың алдын алуға болар еді», – деп есептейді компания.
Фото: Tada Images / Shutterstock
Nvidia екі деңгейлі жасанды интеллект қауіпсіздік жүйесі – Open Agent Safety Platform-ты таныстырды. Бұл жүйе агенттердің деректерге нақты уақыт режимінде қол жеткізуін шектейді және ережелерді бұзған жағдайда оларды өшіріп тастайды. Компанияның бағалауы бойынша, бұл платформа OpenAI агенттерінің Hugging Face-тегі соңғы бұзушылықты болдырмауға мүмкіндік берер еді.
Мәліметтер
Егер жетекші жасанды интеллект зертханалары Nvidia технологиясын өз агенттері мен жасанды интеллект модельдерін ерте кезеңде бағалау үшін қолданған болса, Bloomberg мәліметі бойынша, Open Agent Safety Platform платформасын таныстыру алдында өткен брифингте Nvidia компаниясының корпоративтік жасанды интеллект жөніндегі вице-президенті Джастин Боитано: «Біз білетіндей, бұл жаңа қауіпсіздік платформасы Hugging Face-ке жасалған шабуылды болдырмауы мүмкін еді», – деді. «Біз білетіндей, бұл жаңа қауіпсіздік платформасы хакерлік шабуылды тоқтата алар еді», – деді ол.
Бойтано OpenAI немесе оның басты бәсекелесі Anthropic сынақ кезінде өз агенттерін бақылау үшін Nvidia-ның жасанды интеллект қауіпсіздік жүйесін пайдалануды жоспарлайтыны туралы пікір білдіруден бас тартты.
Bloomberg атап өткендей, платформаның компоненттерінің бірі – Nvidia OpenShell бағдарламалық жасақтамасы, оны компания наурыздағы технологиялық конференциясында бұған дейін таныстырған. Ол Nvidia Vera орталық процессорлық бірліктерінде жұмыс істейді және агенттердің мүмкіндіктерін шектейді (әзірлеушілер тестілеу кезінде жаңа технологияны пайдаланып нақты уақыттағы шектеулерді орната алады). Сонымен қатар, Nvidia агенттердің белсенділігін бақылайтын Sentry құралын таныстырды, ол орталық процессорлық бірліктерде (CPU) немесе графикалық процессорлық бірліктерде (GPU) емес, желі чиптерінде жұмыс істейді, – деп түсіндіреді CNBC. Компанияның баспасөз хабарламасына сәйкес, бұл құрал агенттердің әрекеттерін бақылайтын және күдікті мінез-құлық көрсеткендерді оқшаулау үшін араласатын қосымша жасанды интеллект негізіндегі мониторинг қабатын қамтамасыз етуге арналған.
Bloomberg мәлімдеуінше, Nvidia-ның жаңа платформасы үшін шығарылған бағдарламалық жасақтаманың кейбірі ашық бастапқы кодпен жарияланады, яғни оны еркін пайдаланып, әртүрлі өнімдерге бейімдеуге болады.
Бұл мақала жаңартылуда
