Адамға ұқсас жасанды интеллект жасаудың қаупі қандай?
Microsoft AI басшысы Мустафа Сүлейман Project Syndicate-ке жазған жазбасында таяуда сананы шынымен имитациялайтын жасанды интеллект пайда болатынын ескертті. Бұл қоғамға айтарлықтай әлеуметтік салдар әкелуі мүмкін, деп санайды.
Адамға қатты ұқсас
Менің өмірлік миссиям әрдайым әлемді жақсартатын, қауіпсіз әрі пайдалы ЖИ жасау болды. Бірақ адамдар соңғы уақытта жасанды интеллектіні саналы тіршілік иесі ретінде пайдаланып, соншалықты сенетініне алаңдаймын — олар «жасанды интеллектке құқық» беру және тіпті оған азаматтық беру туралы дау айтуға да баруы мүмкін. Мұндайға жол бермеу керек. Біз адам сияқты ЖИ емес, адамдардың игілігіне жарайтын ЖИ жасаумыз керек.
Осы жағдайда «ЖИ шынымен санаға ие бола ала ма?» деген талас-даулар маңызды нәрседен аластатады. Қазіргі перспективада маңызды мәселе басқа — қазір мен «сана сияқты көрінетін ЖИ» (seemingly conscious AI, SCAI) деп атайтын нәрсеге жақындап келеміз: яғни сананы сенімді түрде имитациялай алатын жүйелердің пайда болуы.
Мұндай SCAI табиғи тілді еркін қолдана алады, сенімді әрі эмоциялық жауап беретін тұлға сипаттамасын көрсетеді. Ол өзін-өзі тұтас сезінуді қалыптастыратын ұзақ және дәл есте сақтауға ие болады және осы қабілеті арқылы өткен өзара әрекеттесулер мен естеліктерге сілтеме жасап субъективті тәжірибесі бар деп мәлімдей алады. Модельдер ішіндегі күрделі сыйақы (reward) функциялары ішкі мотивацияны имитациялап, ал жетілдірілген мақсат қою мен жоспарлау механизмдері — ЖИ-нің шынайы автономияға ие болып көріну сезімін күшейтеді.
Барлық осы мүмкіндіктер қазірдің өзінде бар немесе өте жақын арада пайда болады. Осындай жүйелер жақын уақытта шындыққа айналатынын мойындауымыз керек. Әсерін ойластырып, сананың иллюзиясын жасауға кедергі болатын ереже қалыптастыру қажет.
Көптеген адамдар үшін ЖИ-мен қарым-қатынас қазірдің өзінде құнды әрі шынайы тәжірибе сияқты сезіледі. «ЖИ психозы», тәуелділік пен психикалық денсаулық мәселелері туралы алаңдаулар артып келеді: адамдар ЖИ-ні Құдайдың көрінісі ретінде қабылдайтыны туралы хабарланымдар шығып жатыр. Сонымен қатар, сана зерттеумен айналатын ғалымдар маған адамдардан олардың ЖИ-сы саналы ма, оған ғашық болуға бола ма деген сұрақтармен көптеп жүгініп жатқанын айтады.
Әлбетте, SCAI жасау техникалық мүмкіндігі оның шынайы санасы барын дәлелдемейді. Нейробиолог Анил Сет айтып өткендей, бұршақтың симуляциясы сіздің компьютеріңізде жаңбыр болып жатқанын білдірмейді. Сыртқы белгілерді қайта жасау оны шын мәнінде тудырмайды. Бірақ практикада кейбір адамдар SCAI жасап, олар шын мәнінде саналы деп мәлімдейді — және біреулер осы модельдерге сенеді.
Тіпті бұл сана шынайы болмаса да (осы тақырып шексіз дауларды туғызады), әлеуметтік салдары айтарлықтай болады. Сана біздің жеке тұлға сезімімізбен және қоғамдағы моральдық әрі заңдық құқықтарды түсінуімізбен тығыз байланысты. Егер кейбір SCAI-лар адамдарды өздері азап шегеді немесе өшіруге құқығы жоқ деп сендіре алса, олардың жақтаушылары оларды қорғауды талап етеді. Құқық пен сәйкестік пікірталастары бар әлемде жасанды интеллекттің құқықтары бойынша жақтаушылар мен қарсы пікірдегі адамдар болып бөлінуі мүмкін.
Ғылымның қазіргі шектеулері салдарынан ЖИ-ның азап шегеді деген тұжырымдарды жоққа шығару қиын болады. Кейбір ғалымдар «модель әл-ауқаты» идеясын зерттеп жатыр және «санасы болуының нөлден айырмашылығы бар мүмкіндігі бар жаратылыстарға моральдық қамқорлық көрсету міндетіміз бар» деп санайды.
Осы қағиданы қолдану әлі ерте және қауіпті болар еді. Ол әсерге бергіш адамдардың қателіктерін күшейтіп, олардың психологиялық осалдығын пайдаланар еді. Бұл құқықтар үшін күресті одан әрі күрделендіріп, олардың иелері ретінде жаңа, кең таралған санат қалыптасуына әкеле ме. Сондықтан, SCAI жасаудан бас тарту қажет. Біздің назарымыз адамдардың, жануарлардың және қоршаған ортаның әл-ауқаты мен құқықтарын қорғауға бағытталуы тиіс.
Иллюзияны қалай бұзу керек?
Біз қазіргі жағдайда алдымызда не болатынына дайын емеспіз. Адамдардың ЖИ-мен қалай қарым-қатынас жасайтыны туралы өсіп жатқан зерттеулерге сүйене отырып, айқын нормалар мен принциптер қалыптастыруымыз керек. Сол принциптердің бірі — ЖИ жасаумен айналысатын компаниялар адамдарға өз жүйелерінің саналы деген сенім қалыптастырмауы тиіс.
ЖИ индустриясы және жалпы технология саласы — модельдермен жұмыс жасау үшін адам әсерімен сенімді жобалау принциптері мен ең жақсы тәжірибелерге мұқтаж. Мысалы, арнайы ойластырылған араласу иллюзияны бұзып, пайдаланушыларға жүйенің шектеулері мен шынайы табиғатын жұмсақ түрде еске сала алады. Мұндай хаттамалар нақты анықталып, заңмен бекітілуі тиіс.
Microsoft AI-де біз жауапты «ЖИ тұлғасы» қандай болуы мүмкін екенін және оған қандай шектеулер қажет екенін белсенді зерттеп жатырмыз. Бұл өте маңызды, өйткені сана сияқты көрінетін ЖИ (SCAI) тәуекелін жою үшін біздің мақсат — өмірімізге оң әсер ететін, пайдалы ЖИ-компаньондар туралы позитивті көзқарас қалыптастыру.
Адамдарды параллель әлемге кетірмей, нақты өмірде өзара әрекеттесуге ынталандыратын ЖИ жасау керек. Егер ЖИ-мен ұзақ уақыт қарым-қатынас болса, ол әрдайым өзін жасанды интеллект деп таныстырып, «ойдан шығарылған» адам болып көрінбеуі тиіс. Толыққанды ЖИ — сананы имитациялауды минимумға түсіріп, максималды пайда әкелетін жүйе деген сөз.
SCAI әкелетін қауіптерді дереу қарастыру қажет. Бұл көп жағынан ЖИ-нің шынайы пайдасын көрсету сәті: ол құралдарды басқара алады, өміріміздің деректерін ұдайы есте сақтай алады және тағы басқа мүмкіндіктерге ие болады. Бірақ осының бірге жүретін тәуекелдерін елемеу мүмкін емес. «Шұңқырға түсіп кететін» адамдар барын бәріміз білеміз — бұл олардың өзіне де, қоғамға да зиян келтіруі мүмкін.
Жасанды интеллектіні адамға қатты ұқсатып жасаған сайын ол адамның мүмкіндіктерін кеңейтетін құрал болудан алыстайды.
