«Тағы бір Вавилон мұнарасын салуды тоқтатыңыздар»: Папа жасанды интеллектіні «қарусыздануға» шақырды

Папа Лев XIV үкіметтерді жасанды интеллекттің дамуын баяулатуға, әсіресе әскери мақсаттағы жасанды интеллект жүйелерін қатаң реттеуге және алгоритмдерді «қарусыздандыруға» шақырды, деп хабарлайды Reuters. Дүйсенбіде жарияланған 43 000 сөздік энцикликада католиктерге арналған алғашқы хатында Папа жасанды интеллектіні адамға анағұрлым ыңғайлы етуге шақырды. Ол бұл технологияны монополиялық бақылаудан босатып, оны геосаяси немесе коммерциялық пайда үшін пайдаланудан бас тарту қажет екенін айтты, деп жазады Bloomberg.

«Қарудан айыру – техникалық күш автоматты түрде билік етуге құқық береді деген түсінікті беделін түсіруді білдіреді. Қарудан айыру технологияны қабылдамау емес, оны адамзат үстемдігіне жол бермеуді білдіреді», – деді Папа Лев XIV сенушілерге арналған энцикликасында.

Папа жасанды интеллект жүйелері дезинформацияны күшейтетінін және қақтығыстарды модельдегенде олардың ушығуына басымдық беретінін, осылайша әлемді шексіз соғыс жолына түсіру қаупін тудыратынын ерекше атап өтті. АҚШ-та туған алғашқы папа жасанды интеллектке қатысты деректерге меншік құқығын тек жекеменшікке қалдырмауды, саясаткерлерді жұмысшылардың құқықтарын қорғауға және балаларды осы технологиядан қорғауға шақырды, сондай-ақ жасанды интеллект компаниялары арасындағы бәсекені бәсеңдетуді ұсынды.

Сонымен қатар ол мықты жекеменшік компаниялардың бақылауындағы «қараңғы алгоритмдер» «адамгершіліктен айырудың жаңа формалары» қаупін тудыратынын ескертеді және The Wall Street Journal хабарлауынша, үкіметтер мен қоғамды білім беру, еңбек нарығы және жеке қарым-қатынастар сияқты көптеген салаларда жасанды интеллекттің ықтимал теріс әсерін азайту үшін саналы түрде күш салуға шақырады.

Папа негізгі мәселе технологияда емес, кейбір өмірлерді басқаларға қарағанда «аз пайдалы, аз қалаулы және аз құнды» деп санайтын идеяда деп есептейді. «Прогресс атынан «қажетті құрбандықтарға» ақталулар басталуы мүмкін, бұл болжамды түр түзеу жолында ең осалдарға ауыртпалық салады», – деп жазады понтифик. Financial Times- тың мәліметінше, бұл Питер Тиль мен Илон Маск сияқты ықпалды Силикон алқабы кәсіпкерлерінің трансгуманистік және постингуманистік көзқарасына сын.

Лео XIV қоғамдық өмірде қолданылатын барлық жасанды интеллект құралдарына «ашықтық пен есеп берушілік» талап етуді ұсынды, адамдарды машиналардың олардың әлеуетін шектеуі мүмкін жағдайдан қорғау үшін.

«Барлығы жылдамдап бара жатқан кезде бәрін бәсеңдете алатындай белсенді саяси қатысуымызды арттыруымыз керек», – деді Папа. Ол «берік заңдық негіз, тәуелсіз бақылау, хабардар пайдаланушылар және өз міндеттерінен жалтармайтын саяси жүйе» құруды талап етті.

Папа сондай-ақ жасанды интеллекттің эмпатия мен түсінікті имитациялай алу қабілеті туралы ескертті, ол «нақты адаммен қарым-қатынас жасап жатқандай иллюзия тудырады», бұл адамдардың «шын мәніндегі адамдық байланыстарды орнатуға деген ұмтылысын біртіндеп жоғалту қаупін» тудырады, деп хабарлайды WSJ.

Папа қоғам жасанды интеллекттің қалай дамып жатқаны және жаһандық көшбасшылықтың жалпы бағыты жөніндегі «негізгі сұрақтарды» шешуі тиіс екенін атап өтті. Ол мақтанышқа берілген адамдар аспанға жететіндей биік мұнара тұрғызуға тырысқандықтан Құдайдың қаһарын тудырған Вавилон мұнарасының библиялық әңгімесіне сілтеме жасады. Папа бұл оқиға «Құдайдың берекесінсіз аспанға жетуге ұмтылатын» кез келген әрекеттің қауіптілігін көрсетеді деді. «Қойшы мен әке жүрегімен мен баршаңызды тағы бір Вавилон мұнарасын салуды тоқтатып, ортақ игілік үшін күш біріктіруге шақырамын», – деді Лео XIV.

Құжат негізінен жасанды интеллектке арналғанымен, әлемді жайлаған соғыстар санын айыптап, халықаралық ұйымдардың әлсіреуіне өкініш білдіріп, қару-жарақ индустриясының пайдасы осы қақтығыстардың негізгі қозғаушы күштерінің бірі екенін атап көрсетті. «Соңғы 60 жыл бойы адамзатты дүрліктірген қатігез қақтығыстар болды, олар жиі бейбіт тұрғындарға ауқымды түрде әсер етті», – деді Лео XIV. «Адамзат зорлық-зомбылыққа негізделген билік мәдениетіне қарай сырғып барады, онда бейбітшілік енді міндет ретінде емес, тек қақтығыстар арасындағы нәзік үзіліс ретінде қабылданады».

Рейтер агенттігінің хабарлауынша, Anthropic компаниясының негізін қалаушылардың бірі Крис Ола Ватикандағы іс-шараға қатысып, онда бұл хабарлама оқылды. Anthropic – ChatGPT-ден кейінгі екінші ірі чат-бот Claude-ты жасаған компания ретінде AI саласындағы көшбасшылардың бірі. Ола жаңа технологияның туындатқан мәселелерін шешкені үшін XIV Леоға алғыс айтты. Ол Anthropic сияқты компаниялардың айтарлықтай коммерциялық қысымға ұшырайтынын және оларға сыртқы қадағалау қажет екенін мойындады.

«Антропоикті қоса алғанда, барлық озық жасанды интеллект зертханалары ынталандырулар мен шектеулер жиынтығы аясында жұмыс істейді, олар кейде дұрыс істеуге қайшы келуі мүмкін», – деді Ола Reuters-ке. Жоғары лауазымды басшының айтуынша, жасанды интеллект адам еңбегін «өте ауқымды» көлемде алмастыруының «шын мәнінде мүмкіндігі» бар.

«Егер солай болса, көші-қонға мәжбүр болғандарға қолдау көрсету тарихи ауқымдағы моральдық парызға айналады», – деді Ола (Рейтер агенттігініңдеректері бойынша).

Ола бұл қарқынды дамып келе жатқан технология жөніндегі пікірталасқа Католик шіркеуінің араласуын құптап, жасанды интеллект қозғайтын этикалық мәселелер инженерлік шеңберден әлдеқайда асып түсетінін айтты. Ола қоғамның шұғыл назар аударуын қажет ететін үш бағытты атап көрсетті: ауқымды жұмыс орындарының жоғалу қаупі, жасанды интеллекттің пайдасын бүкіл әлемге тең тарату қажеттігі және жасанды интеллект жүйелерінің барған сайын күрделене түскен және кейде түсініксіз болатын мінез-құлқын қалай түсіндіру керектігі жөніндегі шешілмеген мәселе.

ЖИ стартапы Anthropic биыл Пентагонмен келісімшарттарын жоғалтты, себебі ол Қорғаныс министрлігіне өз ЖИ-ін толық автономды қарулар үшін немесе америкалықтарға қарсы ауқымды ішкі бақылау үшін пайдалануға рұқсат беруден бас тартты.