Билік мінбері мен машина: жасанды интеллект мемлекет орнын баса ала ма?

Қазір жасанды интеллект (ЖИ) адамдардың өмірінің барлық саласында қолданылады. Бұл ешкімді таңқалдырмайды. Бірақ Албанияда биыл қыркүйек айында ерекше жағдай болды — елде алғашқы виртуалды министр пайда болды. Ең қызығы, ол мемлекеттік қаржының бөлінуіне қатысу құқығын алды. Бұл жағдай маңызды сұрақтар туғызады: мемлекет басқаруда ЖИ-ді қаншалықты белсенді қолдануға болады және оны қалай бақылау қажет? Осы туралы «Алматы Менеджмент Университеті» (AlmaU) президентінің кеңесшісі Вадим Новиков өз ойымен бөліседі.

Албания нақты не істеді?

Күні бүгінге дейін мемлекеттік секторда ЖИ тек көмекші құрал ретінде пайдаланылды. Мәселен, құжаттардың қаралымын жазу, мәтіндерді салыстыру, аударма жасау сияқты жұмыстар үшін. Бірақ 2025 жылғы 11 қыркүйекте Албания күтпеген қадам жасады. Елдің премьер-министрі Эди Рама Диелла атты виртуалды министрді таныстырды. Ол мемлекеттік сатып алуларға жауапты болды.

Диеллаға биліктің ең маңызды саласы — бюджет ақшасын кімге және қандай шартпен бөлу міндеті жүктелді. Алғаш рет «министр дауысы бар машина» ел қаржысының тағдырын шешетін жерде сөз сөйледі.

Бұл оқиғаның басты мәні — технологияның өзінде емес, билік институтында. Егер тендердің жеңімпазын анықтайтын шешімді алгоритм қабылдайтын болса, демократиялық басқарудың негізгі қағидалары күмән тудыра бастайды.

Диелла не істей алады?

Диелла алғашында e-Albania мемлекеттік қызметтер порталында цифрлық көмекші ретінде пайда болды. 2025 жылдың қаңтарынан бастап ол азаматтарға анықтамалар алуға көмектесіп, электрондық қолтаңбамен 36 мыңнан астам құжат берді. Ал қыркүйек айында Эди Рама оны жаңа деңгейге көтеріп, «виртуалды үкімет мүшесі» ретінде таныстырды.

Дегенмен, оның заңды мәртебесі, ұсыныстарын қалай шағымдануға болатыны, қателіктер үшін кім жауап беретіні сияқты нақты құқықтық тетіктер әлі ашық түрде жарияланған жоқ.

Диелланың негізгі міндеті — барлық мемлекеттік тендерлерді талдау. Премьер-министр Раманың сөзінше, мақсат — «Албанияны мемлекеттік сатып алулар толықтай жемқорлықтан таза елге айналдыру». Осыған байланысты тендер жеңімпаздарын таңдау құқығы біртіндеп министрліктерден алынып, ЖИ жүйесіне беріле бастады. Раманың амбициясы бұдан да кең: ол бұрын да «Албанияны ЖИ басқаратын министрлікке, тіпті болашақта ЖИ-премьерге дайын ел» деп айтқан болатын.

Албан ақпараттық қоғам агенттігінің (AKSHI) мәліметінше, Диелланың негізінде Microsoft компаниясының тілдік модельдері жатыр. Маңызды жайт — оның шешімдері тек кеңес түрінде беріледі.

«Диелла біздің орнымызға шешім қабылдамайды — соңғы шешімді біз айтамыз», — деді премьер Рама.

Қауіптерді азайту үшін Human-in-the-Loop деп аталатын жүйе енгізілген. Бұл дегеніміз — соңғы шешімді әрқашан адам қабылдайды, ал ЖИ тек талдау мен ұсыныс береді. Диелланың шешімдерін премьер жанындағы арнайы бөлім тексереді. Бірақ оппозиция өкілдері мен сыншылардың айтуынша, «технологиялық көріністің» артында премьердің жеке бақылауындағы сатып алу тетігі жасырынған. Айтуларынша, Диелланың бейнесі мен дауысын белгілі албан актрисасы Анила Биша сомдаған.

18 қыркүйекте Диелла парламентте алғаш рет «сөз сөйлеп», депутаттардың заңдылыққа қатысты сұрақтарына жауап берді. Оның экрандағы бейнесі былай деді: «Конституция адамдарға қызмет ететін институттар туралы айтады. Онда хромосома, ет немесе қан туралы емес, міндет, жауапкершілік, ашықтық және кемсітусіз қызмет ету туралы жазылған».

Сыншылардың басты уәжі — мемлекеттік келісімшарттарды бөлу туралы шешімдерді сайланған шенеуніктер қабылдауы тиіс, өйткені олар жеке жауапкершілікке ие. Ал Диеллада жауапкершілік жоқ, демек, қателік болса, кінәлі де болмайды.

Шын мәнінде, бұл жүйе «қара жәшік» сияқты жұмыс істейді: тендерге қатысушылар мен қоғам жүйенің өтініштерді қандай өлшемдер бойынша бағалайтынын және шешімге қалай шағымдануға болатынын білмейді. Бұл құқықтық рәсімнің ашықтығын бұзады. Егер алгоритм қателессе, кім жауап береді?

Барлық жауапкершілікті премьерге жүктеу — саяси тұрғыдан ыңғайлы шешім, бірақ ол нақты құқықтық жүйе құрмайды. Албанияның тәжірибесі — технологияның жай құралдан қоғамдық институтқа айналуының жарқын мысалы. Бұл, өз кезегінде, «қатысуы жоқ технократия» қаупін тудырады, яғни маңызды шешімдерді адамдар емес, машина қабылдайтын жағдай.

Қолдаушылар не дейді?

«Виртуалды министрді» жақтайтындардың уәжі үш негізгі қағидаға сүйенеді: әділдік, ашықтық және тиімділік. Олар ЖИ адамға қарағанда бейтарап деп есептейді. Яғни ол жеке мүддеге тәуелді емес және тек берілген ережелерге сай әрекет етеді. Премьер Эди Рама да «әрбір мемлекеттік рәсім енді цифрлық із арқылы 100% бақыланатын және түсінікті болады» деп уәде берді.

Техникалық тұрғыда «түсіндіре алатын жасанды интеллект» (Explainable AI, қысқаша XAI) принципі қолданылады. Бұл тәсілде жүйе өз шешімінің логикасын нақты түсіндіре алуы керек.

Теория жүзінде, егер алгоритмдер мен олардың шешімдері ашық реестрлерде көрсетілсе, халықтың сенімі артуы мүмкін. Мысалы, Амстердам мен Хельсинки қалаларының билігі өз сайттарында әрбір қолданылып жатқан алгоритм туралы мәлімет береді. Ол не үшін керек, қандай деректерді пайдаланады және оған кім жауапты деген сияқты ақпараттарды ашық жариялайды.

Алайда мұндай дәлелдердің де әлсіз тұстары бар. Тіпті ең «түсінікті» ЖИ үлгілері бұрынғы тарихи деректерге сүйеніп үйренеді. Ал ол деректерде кейде жасырын қателіктер мен әділетсіздік болуы мүмкін. Егер ЖИ шешіміне шағымдану тәртібі анық болмаса және бақылау органдары тәуелсіз болмаса, «ашықтық» туралы айтылған сөздер тек уәде болып қала береді.

2030 жылға дейін не болады?

Албания тәжірибесі — алдағы ірі өзгерістердің тек бастамасы. Экономикалық ынтымақтастық және даму ұйымының (ЭЫДҰ) зерттеуіне сүйенсек, алдағы онжылдықта ЖИ биліктің ең маңызды салаларына ене бастайды.

Бірінші бағыт — реттеу саласындағы интеллект. ЖИ заңдарды талдау және жаңа нормативтер әзірлеу үшін қолданылады. Албания бұған дейін OpenAI жүйесін пайдаланып, Еуропалық Одақ заңнамасын талдаған болатын.

Мысалы, Біріккен Араб Әмірліктерінде «реттеуші интеллект офисі» деп аталатын бастама бар. Онда ЖИ заңдардың тиімділігін бақылайды және өзгерістер енгізуді ұсынады, бұл заң шығару процесін шамамен 70% жеделдетуге мүмкіндік береді.

Мұндай ұғым Қазақстан саясатында да пайда болды. Президент Қасым-Жомарт Тоқаев өзінің Жолдауында «реттеуші интеллектіні» дамыту жоспарын атап өтті.

2030 жылға қарай бұл технологиялар жетіліп, кеңінен қолданысқа енгізіледі. Цифрлық дамуда алдыңғы қатарда тұрған елдер ЖИ жүйелерін мемлекеттік шешім қабылдау процесіне енгізе бастайды. Бұл процесті жеңілдету үшін «vibe-моделдеу» әдісі қолданылады: мұнда адам нақты код жазбай, тек жалпы мақсат қояды, ал жүйе өзі ең тиімді модель мен деректерді таңдайды.

Екінші бағыт — қала басқару. Сингапур сияқты елдерде қалалардың «цифрлық егіздері» жасалған. Бұл — қаланың нақты 3D-моделі, ол жолдар мен коммуналдық желілердегі датчиктерден алынған мәліметтерді нақты уақыт режимінде көрсетеді. Мұндай модельдер арқылы ЖИ мысалы, көшені жапқан жағдайда көлік қозғалысы қалай өзгеретінін болжай алады және әкімдерге шешім қабылдауда көмектеседі.

2030 жылға қарай ЖИ жергілікті бюджеттерді жоспарлауға да араласуы мүмкін. Бірақ мұнда да қауіп бар: егер жүйе дұрыс емес немесе біржақты деректерге сүйенсе, кей аудандар үнемі назардан тыс қалуы мүмкін.

Үшінші бағыт — сот жүйесі. ЖИ қазірдің өзінде судьяларға көмекші ретінде қолданылады. Мысалы, Бразилияның Жоғарғы сотында Victor атты жүйе істерді талдап, сұрыптауға көмектеседі. 2030 жылға қарай мұндай шешім қолдау жүйелері кеңінен тарайды. Бірақ басты талаптар қатаң болады: шешім логикасының ашық болуы, адамның соңғы шешім қабылдауы және апелляция жасау тәртібінің нақты белгіленуі. Әсіресе қылмыстық істерде соңғы үкімді машинаға беру қоғам үшін әлі ерте.

Төртінші бағыт — денсаулық сақтау. ЖИ диагноз қоюда және ауруханаларды басқаруда қолданылады. Мемлекеттік денсаулық сақтау жүйелерінде басты міндет — қаржыны әділ бөлу және індеттердің алдын алу. Мұнда ЖИ шешімдерінің түсініктілігі ерекше маңызды: дәрігер де, пациент те алгоритм неге дәл солай шешім қабылдағанын түсінуі керек.

Бесінші бағыт — заң шығару жұмысы. ЖИ парламенттерде хаттамалар жасауға, аудармаға және пікірлерді жинақтауға қолданылады. Мысалы, Ұлыбритания мен Еуропалық парламенттерде ЖИ дебаттарды бір уақытта стенографиялап, аударып отырады.

Бұдан бөлек, ол депутаттарға аналитикалық көмек көрсетеді. Мысалы, Ұлыбританияда Consult атты жүйе қоғамдық пікірталастардағы мыңдаған азаматтық өтініштерді талдап, негізгі тақырыптарды бөліп көрсетеді. Осылайша, ЖИ заңды адамдардың орнына жазбайды, бірақ олардың жұмысын жылдам әрі тиімді етеді.

Егер билік мінберін машинаға ашсақ, оны не қасиетті етеді?

Албанияның тәжірибесі — машинаны биліктің ең маңызды саласына, яғни мемлекеттік ақшаны бөлу процесіне кіргізудің алғашқы қадамы. Қазірше Диелла көбіне пиар құралы ретінде жұмыс істейді, ал нақты шешімдерді адамдар қабылдап отыр. Бірақ оның «министр» ретінде тағайындалуының өзі құрал мен институттың арасындағы шекараны жойды.

Егер биліктің қасиетті орнын машинаға ашатын болсақ, оны «демократиялық рәсімдермен» тазартып, заңдық және моральдық негізде бекіту қажет. Бұл дегеніміз — қоғам алдында ашық жауапкершілік, алгоритмдердің айқындылығы және адамның шешім қабылдау процесіне қатысу құқығы.

Мұндағы сабақ қарапайым, әрі электронды кестемен жұмыс істеуге ұқсайды. Бағдарлама өздігінен дұрыс нәтиже бермейді — бәрі деректердің сапасына, енгізілген формулалардың дұрыстығына және процесті басқарып отырған адамның адалдығына байланысты.

Жасанды интеллектпен де дәл солай: оның болуы тиімділік пен әділеттілікті автоматты түрде қамтамасыз етпейді. Нәтиже үш нәрсеге тәуелді:

деректердің сапасына, алгоритмдердің ашықтығына және адамдар жасайтын институттық кепілдіктердің сенімділігіне.