Роботтар соғысы: ЖИ қаруы миллиардтық компаниялар мен моральдық даулар туғызуда
Бірнеше музыкалық топ Spotify-дың негізін қалаушы Даниэль Эк жүргізіп отырған инвестициялық саясатына байланысты стримингтен альбомдарын алып тастады. Музыканттардың айтуынша, Эк әскери жасанды интеллект технологияларымен байланысты бизнеске қатысып отыр, ал өнер өкілдері өз шығармашылығының соғыспен байланыстырылуын қаламайды. Oninvest үшін Роман Могучий қазіргі таңда ЖИ-технологиялар мен әскери роботтар саласындағы қару-жарақ нарығы қалайша миллиардтаған долларға бағаланатын жаңа компаниялардың пайда болуына, әрі қатаң этикалық дауларға алып келіп жатқанын зерттеді.
«Ақшаның жетіспеуі енді сылтау емес»
2021 жылы McKinsey серіктесі Гундберт Шерфке, ойын жасаушы Торстен Райлға және машиналық оқыту инженері Никлас Кёлерге әскери стартап Helsing жобасына қызметкерлер тарту оңайға соқпады — инженерлерді жұмысқа алу қорғаныс өнеркәсібі туралы пікірталасқа айналып кететін. Ал 2025 жылы компанияның Мюнхен, Берлин, Лондон және Париждегі кеңселерінде 600 адам жұмыс істейді, ал соңғы инвестициялық раундта стартап 600 млн еуро тартты, нәтижесінде инвесторлар оның бағасын 12 млрд еуроға дейін екі есеге арттырды. Helsing жобасына алғашқы да, соңғы да раундта негізгі инвестор болған Даниэль Эк басқаратын Prima Materia қоры. Оның өзі үшін де, басқа инвесторлар үшін де Ресейдің Украинаға басып кіруі қорғаныс саласындағы инвестицияларға түрткі болды.
Бұл соғыс бүкіл қорғаныс нарығына әсер етті. 2022 жылдың өзінде-ақ Еуропадағы әскери шығындар соңғы 30 жылдағы ең жоғары өсімді көрсетті, деп хабарлады Стокгольм бейбітшілікті зерттеу институты. 2025 жылы Еуроодақ 150 млрд еуро көлеміндегі қорғаныс қорын құруға келісті. Бұл қаржының елеулі бөлігі жаңа қару түрлеріне жұмсалып жатыр — олардың басым бөлігі украиналық майданда сыналып үлгерген.
Қарулы күштер екі тараптан да жасанды интеллект элементтері бар дрондарды, автономды платформаларды, роботтандырылған жүйелерді белсенді сынап, қолдануда. Бұл үрдіс өзге елдерді де итермелеуде. Precedence Research болжамынша, 2034 жылға дейін автономды қару-жарақ нарығы $44 млр-тан $73 млрд-қа дейін өсіп, жылдық орташа өсім 5,86% деңгейінде болады. McKinsey мәліметі бойынша, соңғы алты жылда еуропалық әскери стартаптардағы қаржыландырудың үштен бірі автономды жүйелерге жұмсалған.
«Ақша жоқ» деген енді сылтау емес, енді ол бар», – дейді Reuters-пен сұхбатта ARX Robotics стартапының негізін қалаушы Марк Витфелд, Германия қорғаныс министрін мысал келтіре отырып. Еуроодақ енді әскери тендерлерге ең алдымен еуропалық өндірушілерді тартуды жоспарлап отыр. Бұл бюджетке ондаған жаңа компания үміткер, оның ішінде Германия мен Португалияның Quantum Systems және Tekever атты дрон өндірушілері бар — екеуі де мамырда миллиард доллардан астам инвестиция тартты.
Миллиард доллардан жоғары бағаланған тағы үш автономды қару жүйесін өндіруші компания АҚШ нарығында жұмыс істейді: Anduril Industries, Skydio және Shield AI. Мұндай компаниялар саны әлі де арта түсуі мүмкін: шілдеде АҚШ президенті Дональд Трамп жасанды интеллект саласындағы инновацияларды дамыту жоспарын бекітті — оның ішінде қорғаныс саласы да бар. Құжатта былай делінген: «АҚШ егер жаһандық әскери үстемдігін сақтап қалғысы келсе, жасанды интеллектті қарулы күштерге белсенді енгізуі қажет». Алайда бұл жоспарға белсенді қарсылық та бар.
2013 жылы бірнеше үкіметтік емес ұйымдар — Amnesty International, Human Rights Watch, Handicap International және басқалар — «Құтқар роботтардан» (Stop Killer Robots) атты жаһандық кампанияны іске қосты. Олар автономды қару-жарақты тыйым салынуға тиіс деп есептейді.
Кампания авторларының ескертуінше, роботтандырылған қарулар адамның күш қолдану құқығына қауіп төндіреді және өлім мен өмір туралы шешімді алгоритмдерге беру — адамды дегуманизациялауға алып келеді.
Қаруланған дрондар бәсекесі үшін кім жауап береді?
2025 жылы БҰҰ автономды қару-жараққа қатысты құқықтық, техникалық, этикалық және гуманитарлық аспектілерді қамтитын халықаралық консультациялар өткізді. Ұйым келесі жылға дейін мұндай қару түрін толық тыйым салу бойынша құқықтық механизмдерді келісуді жоспарлап отыр. «Бұл технологиялардың әскери және құқық қорғау салаларында таралуы уақыт еншісіндегі нәрсе. Дегенмен, автономды қару жүйелерін өндіру мен қолдануды шектейтін заңдық тұрғыдан міндетті ережелерді бекіту әлі де кеш емес», – деді Amnesty International ұйымының қорғаныс, қауіпсіздік және құқықтық тәртіп мәселелері бойынша зерттеушісі Патрик Вилкен Oninvest-ке берген пікірінде.
Сарапшының айтуынша, адамға немесе оның маңайына күш қолдану туралы шешім қабылдау үздіксіз өзгеріп отыратын контексті түсінуді, адам сезімі мен түйсігін қажет ететін өте күрделі процесс. Ал адамдарды машиналық алгоритмдер арқылы санаттарға бөлу — қате нысана таңдау қаупін айтарлықтай күшейтеді.
Stop Killer Robots қозғалысының атқарушы директоры Мэри Уэрхэм болса, ЖИ технологияларының соғыс алаңындағы қателіктері әскери қылмыстар үшін жауапкершілік жүктеуді айтарлықтай қиындататынын алға тартады. «Мұндай әрекеттер үшін кінәні кім көтереді? Өндіруші ме? Әлде алгоритмді жазған адам ба?» – деп сұрайды ол.
Оған Патрик Вилкеннің жауабы: «Инвесторлар мен компаниялар адам құқықтарын сақтауға жауапты. Бұл жауапкершілік — қандай технологияларды зерттеп, дамытып, өндіруге және сатуға болатынының этикалық шекарасын нақты белгілеуді қамтиды. Адам құқықтарына қатер төндіретін жүйелерге жол берілмеуі тиіс».
Қазіргі таңда автономды қару жүйелерін әзірлеуге тікелей заңдық тыйым болмаса да, көптеген инженерлер мен бағдарламашылар мұндай жобаларға қатысуды өздері үшін моральдық тұрғыдан қабылдауға болмайтын іс деп санайды.
Еркін қоғамның қорғаушылары
2018 жылы Google компаниясының қызметкерлері дрон бейнелерін өңдейтін жасанды интеллект жобасына қарсы жаппай наразылық өткізді. Шамамен 4000 адам ішкі петицияға қол қойып, келісімшартты тоқтатуды талап етті. Нәтижесінде жоба ұзартылған жоқ. Әскери құрылымдармен әріптестікке қарсы наразылықтарды Microsoft пен Amazon қызметкерлері де ұйымдастырған.
2022 жылы Agility Robotics, ANYbotics, Boston Dynamics, Clearpath Robotics, Open Robotics және Unitree сияқты робот өндіруші компаниялар роботтарды қару ретінде қолданбауға және клиенттерінің де мұндай әрекетке бармауын қадағалауға уәде берді. Алайда бұл ұстаным толық орындалмай отыр: Boston Dynamics өз роботтарын оқ-дәрі жеткізу сияқты логистикалық тапсырмалар үшін әскери мақсатта пайдалануға рұқсат етеді, Clearpath Robotics әскери тапсырыс берушілермен жұмыс істейді, ал Unitree роботтары Қытайдың Халық-азаттық армиясының оқу-жаттығуларында пулемет орнатылған күйде байқалған.
Автономды жүйелердің жақтастары мұндай технологиялар соғыс алаңында адам шығынын азайтуға, сондай-ақ соққы жасау кезінде оператордың эмоциясы мен шаршауын болдырмауға мүмкіндік береді деп санайды. Helsing компаниясының тең құрылтайшысы Торстен Райл Wired басылымына берген сұхбатында Кремний алқабындағы инженерлердің әскери жобаларға қарсылық танытуын түсінбейтінін айтады. Оның пікірінше, егер қоғам еркін әрі ашық болсын десек, онда оны қорғауға қабілетті болуымыз керек.
Алайда Wired басылымы маңызды сұрақ қояды: қоғамның еркін не еркін емес екенін кім анықтайды? Бұл сұраққа Райл жауап бермеген. Мүмкін, болашақта мұндай шешімді де машина қабылдайтын болар.
