IT компанияларының басшылары Ақ үйдің шетіндегі іс-шарада Anthropic компаниясының бас директорының жасанды интеллект туралы үрей тудыруын сынға алды.
Жасанды интеллект компаниялары қауіпсіздікті өздері қадағалайтынын уәде етеді, бірақ модельдерді әзірлеуді қауіпсіздік үшін баяулату керек пе деген мәселеде олар екіге бөлінеді.
Nvidia компаниясының бас директоры Дженсен Хуанг (суретте Дональд Трамптың сол жағында) жабық есік артында Anthropic компаниясының басшысын жасанды интеллект туралы паниканы күшейтіп жіберді деп сынағандардың бірі болды / Фото: X/Ақ Үй
Ақ Үйде АҚШ Президенті Дональд Трамммен өткен кездесуде жетекші технологиялық компаниялардың басшылары бірлік көрсетті, бірақ камералардан тыс олар The Wall Street Journal -дың хабарлауынша, жасанды интеллект адамзатқа экзистенциалдық қауіп төндіреді деп мәлімдеп, тәуекелдерді асыра көрсеткені үшін Anthropic компаниясының бас директоры Дарио Амодейді сынады. Осы бірліксіздік саланың өзін-өзі реттеуін күрделендіруі мүмкін, ал Вашингтон дәл осыған сүйенеді.
Ақ Үйде не болды?
29 қыркүйекте Ақ Үйде өткен кездесуде OpenAI, Anthropic, Google, Meta, xAI және Nvidia компанияларының басшылары жасанды интеллект қауіпсіздігі қағидалары туралы келісімге қол қойып, АҚШ Президенті Дональд Трамппен бірге баспасөзге мәлімдеме жасады. Олар көпшілік алдында бірлік көрсеткенімен, дереккөздер WSJ-ге мәлімдегендей, жабық есік артындағы талқылау әлдеқайда сыпайы болмаған.
Олардың айтуынша, түскі астан кейін жоғары деңгейлі басшылардың шағын тобы АҚШ әкімшілігінің өкілдерімен қауіпсіздік қағидаларын талқылауды жалғастырды. Онда Nvidia компаниясының бас директоры Дженсен Хуанг пен басқа да компания басшылары Амодейден нейрондық желілердің мүмкіндіктері мен оларға байланысты тәуекелдер туралы неге соншалықты ашық сөйлейтінін сұрады. Ол қоғамға шыншыл болудың және қауіптерді төмендетпеудің маңызды екенін айтты, деп хабарлайды газет. Бұған дейін ол жасанды интеллектті қолданатын кибершабуылдар мен жаппай жұмыс орындарының жоғалу қаупі туралы ескертіп, Ақ үй мен бәсекелестерін қауіпсіздікке жеткілікті назар аудармады деп сынаған.
Амодей түскі ас кезінде тәуекелдер мәселесін көтергенде, Meta компаниясының бас директоры Марк Цукерберг оларды жалпы қағидаларды ұстана отырып шешуді ұсынды, деп хабарлады WSJ дереккөздері. Баспасөзге сөйлеген сөзінде ол былай деді: «Біз америкалықтар мен клиенттеріміздің технологияның біз ойлағандай жұмыс істейтініне сенімді болуын қалаймыз».
Тек бір ғана «Конституция» бар, бірақ күтілімдер әртүрлі.
Хуанг пен Цукерберг Ақ үйдің сақтықпен әрекет ету тәсілін қолдайды және Anthropic пен OpenAI зерттеушілерінің қажет болған жағдайда үкіметпен кеңесіп модельдерді дамытуды баяулату жөніндегі үндеуіне қарсы. Келісімге қатысты пікірлер де әртүрлі болды: Axios мәліметі бойынша, Трамп оны «адамгершілік тұрғыдан міндетті» деп сипаттап, «конституцияға» теңестірді, ал Амодей бұл құжатты тек «бастама» ғана деп санады.
Anthropic, OpenAI және Google брокерлерді қадағалайтын FINRA үлгісіндегі өзін-өзі реттейтін ұйым құруды қолдады. Алайда Huang, Zuckerberg және Tesla мен SpaceX компанияларының басшысы Elon Musk бұл ұйымның жасанды интеллект әзірлеушілерінің қолында тым көп билікті шоғырландырады деп қорықты. Олардың қарсылықтарынан кейін бұл идея тоқтатылды.
Кейбір шаралар сақталды: модельді әзірлеу кезінде ішкі тексерістерді күшейту және сыртқы тестілеу, деп хабарлайды WSJ. Ақ Үйде қол қойылған бір беттік келісім қатаң мемлекеттік бақылауды жоққа шығармайды: қажет болған жағдайда Вашингтон жасанды интеллект компанияларына жаңа заңдар мен реттеу шараларын енгізуі мүмкін, деп хабарлайды Axios.
IPO-ға дейінгі тәуекелдер
Anthropic шамамен 2 трлн долларлық бағамен IPO өткізу алдында Ақ Үймен қарым-қатынасын жақсартуға тырысуда. WSJ мәліметі бойынша, компания биылғы жылдың басында билік органдарымен болған жанжалдардан әлі айыға қоймады: қауіпсіздік мәселелеріне байланысты оның екі моделі екі жарым аптаға тоқтатылды, ал Пентагон жасанды интеллектіні әскери мақсатта пайдалану жөніндегі даудан кейін Anthropic-ті қара тізімге енгізді.
Өз IPO проспектісінде Anthropic болашақ инвесторларды өз технологиясының «адамзатқа апатты қауіп немесе оның өз болмысына қатер төндіруі мүмкін» екендігі туралы ескертеді. OpenAI компаниясының бас атқарушы директоры Сэм Альтман компанияның қор нарығына шығуын «қауіпсіздік мәселелері бойынша сенімді шешімдер қабылдай алатынға дейін» кейінге қалдыратынын мәлімдеді.
