$40 млрд тұратын қауіп: дипфейктер дәуірі қалай «сенім бизнесін» тудырды?
Жасанды интеллект көмегімен жасалған дипфейктердің кең таралуы «Қызмет ретінде сенім» (TaaS) деп аталатын салыстырмалы түрде жаңа индустрияның дамуына әкелді. Бұл индустрия жалған контенттен қорғайтын тиімді шешімдерді өзі шығарып жатыр. Неліктен бұл тәсіл мемлекеттердің мәселені өздері шешуге тырысқанынан тиімдірек екенін AlmaU президентінің кеңесшісі Вадим Новиков түсіндірді.
«Бұл мен емес»: дипфейктер қаншалықты қауіпті?
6 қараша, бейсенбі күні Berkshire Hathaway компаниясы YouTube желісінде жасанды интеллект арқылы жасалған Уоррен Баффеттің дипфейк-видеолары таралып жатқанын хабарлады. Ол видеоларда Баффет нарықтағы жағдай туралы пікір айтып, инвестициялық кеңестер беріп жатқандай көрінеді. Компания релизді «Бұл мен емес» деген атаумен жариялады.
«Омахалық оракул» атанған Баффет бейнесі — алаяқтардың танымал тұлғалардың шынайы көрінетін видеоларын жасау үшін ЖИ-ды қалай қолданатынының бір ғана мысалы. Бұған дейін желіде Илон Маск пен Ark Invest негізін қалаушы Кэти Вудтың дипфейктері тараған — олар пайдаланушылардың криптовалютасын ұрлаған платформаны «жарнамалап» шыққан. 2024 жылы Arup компаниясының қызметкері басшылығының дипфейк-көшірмелерімен сөйлескеннен кейін алаяқтарға $25,5 млн аударып жіберген.
Deepfake Incident Report дерегінше, тек 2025 жылдың алғашқы тоқсанында-ақ дипфейктерден келген тікелей қаржылай зақым $200 млн-нан асты. Deloitte болжамы бойынша, АҚШ-та ЖИ қолданылған алаяқтықтан болатын шығын 2027 жылға қарай $12,3 млрд-тан $40 млрд-қа дейін өсуі мүмкін.
Biometric Update болжамынша, 2027 жылға қарай дипфейктерді тексеру саны шамамен 9,9 млрд-қа жетеді, ал бұл қызметпен айналысатын компаниялардың табысы $4,95 млрд шамасында болады.
Жасанды интеллект революциясы бір үлкен мәселені алға шығарды — біз «сенім инфляциясы» деген құбылыспен бетпе-бет келдік. Мұны бұрынғыдай ескі заңдармен шешілетін классикалық «алаяқтық» мәселесі деп қарастыруға болмайды.
Дипфейктер екі жаңа, экзистенциалды қауіп туғызды. Біріншісі — жылдамдық коллапсы: зиян бірнеше минут ішінде келтіріледі, ал құқық қорғау жүйесі әрекет етуге үлгермейді. Жалған видео бірнеше минутта мыңдаған адамға таралуы мүмкін — мұндай ауқым бұрынғы алаяқтар үшін қол жетпес еді. Екіншісі — дәлел коллапсы, немесе «өтірікшінің дивиденді»: енді кез келген шынайы видеоны «фейк» деп жариялауға болады, ал сот бұрынғыдай дәлелдемелерге толық сенім арта алмайды.
Мұнымен қалай күресуге болады?
Мемлекеттік реттеушілер көбіне дөрекі, талғаусыз тыйымдарға жүгінеді. Бұл қатерді дәл нүктесінен алып тастайтын хирургтың скальпелі емес, бүкіл индустрияға соққы беретін соқыр «балға».
Мысалы, Дания радикалды тәсіл ұсынбақ — азаматтарға «өз бет-бейнесіне авторлық құқық» беру. Маусым айында елде авторлық құқық туралы заңға түзетулер ұсынылды, олар адамдарға өз келбетіне қатысты құқықтар беруді көздейді. Данияның Мәдениет министрі Якоб Энгель-Шмидт бұл шаралар 2025 жылдың қысында күшіне енуі мүмкін екенін Tech Policy Press басылымына айтқан.
Бұл тәсіл қаншалықты тиімді бола алады? Заңдық тұрғыдан алғанда, бұл қадам қисынсыз. Ол екі түрлі құқықтық жүйені шатастырады: біріншісі — адам бейнесіне қатысты жеке мүліктік емес құқықтар (олар ажыратылмайды), екіншісі — шығармашылық нәтижелерін қорғау үшін жасалған және иеліктен шығарылуы мүмкін авторлық құқық.
Бұл «балға» тек тиімсіз ғана емес, қауіпті: ол адамның өзін саудаланатын активке айналдыру қаупін тудырады.
Одан бөлек, дәл осындай тәсіл жаһандық реттеу хаосын қалыптастырады. Мысалы, Дания «бет-бейнеге» авторлық құқық беруді көздесе, Қазақстан парламенті қабылдап, қол қоюды күтіп тұрған «Жасанды интеллект туралы» заң жобасы керісінше — авторлық құқықтың аясын тарылтады. Елдегі ЖИ-туындылар авторлық құқықпен қорғалмайды, бірақ бұл жоба адамдардың бейнесін генерациялау кезінде ЖИ қолданылғанын міндетті түрде белгілеуді талап етпек.
Даттық жобас бір негізгі фактіні елемейді: ол реттеуді шамадан тыс күшейтеді. Яғни ол қылмыскердің өзіне емес, құралға — ЖИ-ға соққы жасайды.
Реттеушілік қатенің құны
Неге бұл «балға» тек артық қана емес, экономикалық тұрғыдан қауіпті? Жауап құқықтың экономикалық талдауы саласындағы ең ықпалды еңбектердің бірі — судья Фрэнк Истербруктың The Limits of Antitrust (1984) мақаласында жатыр.
Истербрук реттеушінің екі түрлі қателігін сипаттайды. Біріншісі — жалған дабыл: араласу қажет емес кезде араласу, яғни пайдалы инновацияны қателесіп «өлтіру». Екіншісі — өткізіп алу: араласу қажет кезде араласпай қалу (нағыз теріс әрекетті жіберіп алу).
Истербруктың басты тезисі: бұл қателер салдары жағынан симметриялы емес. Егер реттеуші екінші қателікке жол берсе, яғни зиянды әрекетті өткізіп алса, нарық оны өзі түзете алады — зақым уақытша болады. Ал бірінші қателікке жол берілсе, яғни реттеуші негізсіз араласып, инновацияны «өлтірсе» — ол тыйым тұрғанша қайта жанданбайды. Мұндай жағдайда зиян ондаған жылдарға созылуы мүмкін.
Осы парадигмада «сенім инфляциясы» — ауыр, бірақ уақытша хаос. Нарық оған қазірдің өзінде жауап беріп, шешімдер жасап жатыр. Ал мемлекеттік «балға» — бірінші типтегі қателік, яғни ЖИ саласындағы инновацияларды қайтымсыз тұншықтыру қаупі.
Нарықтық «скальпельдердің» эволюциясына қарсы
Бұл хаос — нарықтың өзін-өзі сауықтыру тетігі. Ол сенімді қымбат әрі тапшы ресурсқа айналдырады. Ал нарық бірден жауап беріп, жалғыз емес, тұтас шешімдер экожүйесін қалыптастыра бастады.
Алғашқы қадам «фейктерді іздеу» болды — яғни ЖИ қолданылғанын анықтауға арналған шешімдер. Бірақ бұл «жеңу мүмкін емес» қару-жарақ жарысы. Зерттеулер көрсеткендей, шынайы ортада (лабораторияда емес) қазіргі детекторлардың дәлдігі 45–50%-ға дейін құлдырайды. 2025 жылғы ғылыми жұмыстары да осыны растады: дипфейктер терідегі микро-түс өзгерістерін тексеретін ескі биометриялық детекторларды алдайтын «жүрек соғысын еліктеуді» меңгеріп үлгерді.
Сондықтан индустрия фокусын өзгертті: жалғанды іздеу емес, түпнұсқалықты дәлелдеу.
Негізгі жауап — C2PA стандарты (Content Credentials). Бұл стандарт Adobe, Microsoft, Intel, BBC сияқты алпауыттар альянсы арқылы ілгерілетіліп жатыр. Оның мәні — файлдың ішіне криптографиялық қолтаңбасы бар «цифрлық паспорт» орнату. Ол контенттің бүкіл «жеткізу тізбегін» жазады: кім жасады, қашан жасалды, қандай түзетулер енгізілді.
Осылайша «Қызмет ретінде сенім» (TaaS) атты жаңа индустрия пайда болды. Бірақ C2PA — панацея емес. Бұл — бәсекелес идеялардың ішіндегі алғашқы ірі шешім ғана. C2PA-ның осал тұстары анықталған бойда (Google зерттеушілері мойындағандай, кей платформалар контенттің шығу тегін көрсететін метадеректерді «алып тастайды»), нарық бірден эволюция жасап, басқа нишаларға арналған жаңа шешімдер ұсынды.
— Нақты уақыттағы детекция немесе liveness — экранның ар жағында «тірі» адамның бар-жоғын тексеру. Deepfake Guard (Zoom үшін Deepfake Captcha) және Netarx («сенім бағдаршамы» — экранның бұрышында тұратын индикатор, дипфейк күдігі туса қызылға өзгереді) сияқты стартаптар «тірі» алаяқтық мәселесін шешуге тырысады: олар қызметкерді шабуыл туралы ақша кетіп болған соң емес, қоңырау кезінде бірден ескертеді.
— Төзімді сутаңбалар (watermarks). Мақсаты — ЖИ-генераторлардың (OpenAI, Google) синтетикалық контентке «ЖИ жасаған» деген көзге көрінбейтін белгі енгізуіне мүмкіндік беру. Steg.AI стартапы тіпті экраннан қайта түсірілгеннен кейін де сақталатын сутаңба жасағанын айтады — бұл мессенджерлердегі компрессия арқылы фейктерді «тазарту» мәселесін шешеді.
— Аппараттық провенанс. Sony криптографиялық қолтаңбаны тікелей өз камераларына (Alpha 9 III) енгізе бастады.
— Децентрализовандық провенанс. Numbers Protocol және OpenOrigins контентке «цифрлық паспорт» жасау үшін блокчейнді пайдаланады — бұл орталықтандырылған C2PA-ға балама.
— TaaS-платформалар. Нарық бөлшектеніп жатыр. Insurtech бағытындағы стартаптар (DeepSecure сияқты — дипфейк шабуылдарынан туатын тікелей қаржылай шығындарды сақтандыру), PR-tech (PhonyEye — CEO бейнесі қолданылған фейктерді әлеуметтік желілерден алдын ала анықтайтын жүйе) және «цифрлық нотариус» сервистері (Attestiv — сотта қолдануға арналған түпнұсқа контенттің «көшірмесін» блокчейнге жазады) пайда болуда.
Бұл — реттеушілердің қатысуынсыз пайда болған, хаотикалық болса да, өте өнімді экожүйе.
Инвестициялық тезис: Экожүйеге ставка жасау
«Сенім инфляциясы» — ақырзаман емес. Бұл — араласпауға байланысты екінші типтегі қателіктің ауыр, бірақ уақытша құны. Бұл экономикалық организмді «антидене» шығаруға мәжбүрлейтін «ауру» тәрізді.
Prooftech нарығы — киберқауіпсіздік секторының бір бөлігінен ғана ibaret емес. Бұл — жаңа, тапшы активтің негізін құрып жатқан индустрия: тексерілетін шындықтың.
Инвестициялық тезис айқын. Компаниялар нақты ақша жоғалтып жатыр және қорғаныс үшін төлеуге дайын. Ал бүкіл ЖИ-индустрия өз қауіпсіздігін дәлелдеу және мемлекеттік тоталды реттеу («балға») қаупінен қашу үшін кез келген шешімге инвестиция салуға мәжбүр. Истербрук көрсеткендей, мұндай реттеудің бағасы — қайтымсыз.
Дипфейктерді тыйуға тырысқандар емес, эволюциялық іріктеу жеңеді. Әрине, бұл мінсіз шешім емес: стандарттар хаос жағдайында, ал платформалар (Meta, TikTok) оларды енгізуге қарсылық танытып отыр. Бірақ дәл алаяқтықпен ешқашан толық жеңіске жетпейтін шексіз күрестегідей, осы бәсекелес экожүйенің өзі — нарықтың шынайы «өзін-өзі емдеуі».
Бұл модельге идеалды болғаны үшін емес, қателігі аз болғаны үшін сенім артып отыр. Экономикада айтылатыны бар: мемлекеттік «балғамен» дәл қателескеннен гөрі, шамамен дұрыс болған әлдеқайда жақсы.
Біз TaaS-тың осы қарбалас экожүйесі жаңа экономикалық шындықты қалай қалыптастырып жатқанын көзімізбен көріп отырмыз. Бұл әлемдегі сенім — бәрі тыныстайтын ауа емес, баллонға құйылып сатылатын таза оттегіге айналды.
