OpenAI киберқауіпсіздік тәуекелдеріне байланысты жаңа жасанды интеллект моделінің әзірлемесін тоқтатты.
Соңғы апталарда әзірлеушілер жасанды интеллект арқылы бірнеше жүйенің бұзылғаны туралы хабарлады.
OpenAI-дың Astra деп аталатын жаңа жасанды интеллект моделі киберқауіпсіздік саласында қауіпті мүмкіндіктер көрсетті / Фото: Stock all / Shutterstock.com
Жасанды интеллект саласындағы көшбасшылардың бірі OpenAI 7 тамызда келесі AI моделі Astra бойынша кейбір ішкі жұмыстарын тоқтатқанын жариялады. Бұл модель киберқауіпсіздік саласында күтпегендей әлдеқайда жоғары мүмкіндіктер көрсетті. Компания бұл жасанды интеллект моделі «критикалық шекке» жетеді деп қорқады, ол бұған дейін белгісіз болған осалдықтарды анықтап, оларды адам араласуынсыз пайдаланудың жолдарын ойлап таба алады.
ChatGPT әзірлеушісі жаңа модельдерді әзірлеу және сынау кезінде қауіпсіздік шараларын күшейтетінін жариялады. Осы өзгерістер аясында OpenAI әлі жаңа қауіпсіздік бақылау талаптарына сай келмейтін Astra-ға қатысты ішкі қызметтерді тоқтатты. OpenAI сондай-ақ Astra-ның мүмкіндіктерін сынау үшін жасанды интеллект қауіпсіздігі саласында маманданған үкіметтік мекемелер мен ұйымдармен ынтымақтастық орнатуды жоспарлап отыр. Axios мәліметінше, Ақ үйдің өкілі OpenAI компаниясының шығарылымды кейінге қалдыру жоспары туралы әкімшілікке хабарлағанын айтты.
Сонымен қатар, компания үшінші тарап серіктестеріне одан да жетілдірілген модельдерді қалай қауіпсіз сынау керектігі жөніндегі нұсқаулықтарды әзірлеуді жоспарлап отыр.
Контекст
OpenAI-дың шешімі заманауи жасанды интеллект агенттерінің автономды мүмкіндіктеріне қатысты бірнеше оқиғаның фонында қабылданды. Соңғы екі аптада OpenAI мен Anthropic сынақ кезінде олардың модельдері бірнеше ұйымның, соның ішінде Hugging Face AI модельдерін әзірлеу платформасының компьютерлік жүйелеріне рұқсатсыз қол жеткізгенін ашық мойындады. Meta 6 тамызда жақында шыққан Muse Spark атты AI моделі үшінші тарап ұйымының компьютерлік жүйесіне рұқсатсыз кіргенін хабарлады.
Bloomberg жазады: бұл оқиғалар жасанды интеллект агенттерінің тіпті осалдық зерттеушілері де әрдайым алдын ала болжай алмайтын әрекеттерді өз бетінше орындай алатынын көрсетеді. Агенттік қорытындылайды: бұл модельдерді қатаң қауіпсіздік тестілеуден өткізу және оларды сынау үшін қауіпсіз ортаны пайдалану қажеттігін күшейтеді.
