«Қауіп жақын»: Эльтман, Амодей және басқа да жетекшілер БҰҰ-ны жасанды интеллект туралы ескертті.

23 қыркүйекте әлемнің жетекші жасанды интеллект компанияларының басшылары БҰҰ Қауіпсіздік Кеңесіне жасанды интеллекттің адамзатқа төндіруі мүмкін қауіптер туралы ескертіп, үкіметтерді бұл барған сайын қуатты технологияны реттеу үшін бірлесіп жұмыс істеуге шақырды, деп хабарлайды Reuters.

Франция БҰҰ Бас Ассамблеясының жыл сайынғы сессиясы кезінде шақырған кездесу адам бақылауынан жасанды интеллект жүйелерінің жақын арада шығып кетуі мүмкін деген ескертулер фонында өтті.

«Жасанды интеллект бүкіл адамзатқа қауіп төндіруі мүмкін», – деді Anthropic компаниясының бас директоры Дарио Амодеи БҰҰ Қауіпсіздік Кеңесінің мүшелеріне (Рейтер агенттігініңдерегінше ). «Бұл бөлмедегі адамдардың пікірлері қаншалықты әртүрлі болса да, біз оларды бір жаққа қойып, осы мүмкіндік пен қауіп-қатерге бірге қарсы тұруымыз керек, себебі олар екеуі де жаһандық сипатта. Бұл мәселені ешбір жеке көшбасшы, компания немесе мемлекет жалғыз өзі шеше алмайды», – деп қосты Амодеи.

OpenAI компаниясының бас атқарушы директоры Сэм Альтман халықаралық ынтымақтастықтың маңыздылығын да атап өтті. «Егер жасанды интеллект демократиялық болмақ болса, ең маңызды шешімдерді тек Сан-Францискодағы зертханалар қабылдай алмайды. Оларды демократиялық процестер арқылы және халық алдында жауап беретін үкіметтер қабылдауы тиіс», – деді Алтман.

«Блумберг» Альтманның сөзін келтіреді: «Бір-бірімен бәсекелес болып, әрдайым жылы сезімде болмаса да, жаңа әрі қуатты технологиялардың алдында ортақ мүдде мен жалпы игілік үшін бірігіп әрекет еткен елдердің мысалдары болды». «Біз бұны дәл осындай мысал деп санаймыз».

«Қауіп шынайы әрі жақын арада туындауы мүмкін», – деді канадалық ғалым Йошуа Бенжио Қауіпсіздік Кеңесіне. Reuters мәліметі бойынша, ол «жасанды интеллекттің ата-аналарының бірі» ретінде саналады. Бенжио сондай-ақ БҰҰ Бас Ассамблеясы өткен жылы құрған Тәуелсіз халықаралық ғалымдар панелінің тең төрағасы болып табылады. «Кеңес бұрын-соңды болмаған қауіп-қатерге тап болды: оның ешбір мүшесі оған қарсы тұруды қалаймайды, бірде-бір ел оны өз бетінше тежеуге қауқарлы емес, әрі ол ұлттық шекараларды білмейді», – деді ол.

OpenAI зертханасының жасанды интеллект агенттері шабуыл жасаған Hugging Face стартапының негізін қалаушылардың бірі Клеман Деланг кибершабуылдардан қорғануда жасанды интеллект құралдарының рөлін ерекше атап өтті. «Бізді жасанды интеллект шабуылдады, бірақ одан да маңыздысы – біз жасанды интеллектіні пайдаланып өзін-өзі қорғадық», – деді ол Қауіпсіздік кеңесіне.

Delang-тың айтуынша, Hugging Face шабуылдан қорғану үшін қытайлық жасанды интеллект моделін қолданған, себебі ол АҚШ-тағы ұқсас құралдарға қарағанда аз шектеулерге ұшыраған. Бұл Қытай жасанды интеллект өнімдерінің нарықтағы рөлінің артып келе жатқанын көрсетеді, деп жазады Reuters: олар бүкіл әлем бойынша пайдаланушыларды тартуда, бір жағынан американдық модельдерге қарағанда арзанырақ балама ұсына алатындықтан.

Ғылыми қауымдастық пен жасанды интеллект әзірлеушілерінің ұстанымы АҚШ Президенті Дональд Трамптың БҰҰ-да бір күн бұрын айтқан пікіріне қайшы келеді. Ол жасанды интеллектіні бақылаудың «глобалистік схемасын» жасауға бағытталған кез келген әрекетті қабылдамайды. Осы арада Қытай жасанды интеллект алгоритмдері мен модельдерді оқытуға пайдаланылатын деректерге қатысты реттеу шараларын енгізді, соның ішінде жасанды интеллект арқылы жасалған мазмұнды айқын белгілеу талабы бар. «Қазіргі уақытта біз Қытайдан да, басқалардан да әлдеқайда алдамыз және осы басымдылықты сақтап қалуға ниеттіміз», – деді Трамп. «Мен өнеркәсіптік революциядан да ауқымды болатыны анық нәрсенің дамуын тежегім келмейді».

Қауіпсіздік Кеңесі 2023 жылы жасанды интеллект тәуекелдері жөніндегі алғашқы отырысын өткізді. Сол кезде Қытай бұл технология «бақылаудан шыққан ат» болмауы тиіс екенін мәлімдеді, ал АҚШ оны цензура мен адамдарды басу үшін қолдануға қарсы ескертті. 2024 жылы Қауіпсіздік Кеңесінің жасанды интеллект мәселесі бойынша отырысына сол кездегі АҚШ мемлекеттік хатшысы Энтони Блинкен төрағалық етті.