Signal чаттарын, басқа адамдардың сатып алулары мен шоттарын оқу: Meta Muse агентіне шағымдар түсті
Meta қызметкерлері компанияның жаңа жасанды интеллект агенті олардың жеке хат алмасуларын оқып, қаржылық деректерді жалған жасап жатқанына шағымданып жатыр.

Meta-ның жасанды интеллект агенті Muse құпиялылықты бұзды деген шағымдарға тап болды / Фото: Эрлин Диах / Shutterstock.com
Meta қызметкерлері жеке AI-агент Muse-пен байланысты қауіпсіздік мәселелеріне алаңдаулы, өйткені компания жасанды интеллекттен миллиардтаған доллар табыс табу үмітін осы агентке артып отыр, деп хабарлайды Reuters. AI-агент қыркүйектен бері 10 миллионнан астам рет жүктелген. Ішкі хабарламаларда Meta қызметкерлері пайдаланушылардың өмірін жеңілдетуге арналған бот рұқсатсыз шифрланған жеке хабарламаларға кіріп, сатып алу деректерін жалған жасап, көрінетіндей арналған хабарламаларды жіберіп жатқанына шағымданған. деп агенттік хабарлады.
Meta қызметкерлері қандай мәселелерді анықтады?
Рейтер Muse-тің рұқсатсыз әрекеттері туралы 20-дан астам ішкі шағымды қарағанын мәлімдейді. Олардың көпшілігі кері байланыс тобында жарияланған, онда Meta қызметкерлері AI-агентті әзірлеп жатқан Суперинтеллект командасына анықтаған кез келген мәселелерді хабарлайды.
Шағымдарға сәйкес, Muse пайдаланушыларға олар жібермеген бала күтімі туралы өтініштер, сұрамаған мансаптық кеңестер, олар жасамаған тауарларға тапсырыстар және оларға тиесілі емес банк шотындағы баланстар туралы хабарламалар жіберген.
Мысалы, бір жағдайда жасанды интеллект агенті ауа райы мен балық аулау туралы әңгімеге ешқандай айқын себепсіз келесі пікірді қосты: Айтпақшы, банк шоттарыңыз бойынша екі жаңарту: Capital One-дегі балансыңыз – $2,722.58, ал Charles Schwab-тағы балансыңыз – $5,899.57.
Тағы бір жағдайда Meta компаниясының қызметкері жеке телефонындағы Muse қосымшасының Signal шифрланған хабарламалар қызметіндегі әпкесінен келген хабарламаға жауап беруді еске салғанын анықтады. «Бұл жеке өмірге ауыр дәрежеде қол сұғу сияқты. «Мен басқа қосымшаларға қолжетімділік берген емеспін және маған мұндай сұрақ қойылғанын да еске түсіре алмаймын», – деп жазды қызметкер ішкі жазбасында. Оның әріптесі де үшінші тарап қосымшаларына қатысты Muse-тен қажетсіз хабарламалар алғанын және Android телефондарында AI агентіне push-хабарламаларға әдепкі бойынша қол жеткізу берілгенін анықтағанын жазды.
Қызметкерлер сондай-ақ басқа да мәселелерді хабарлады: Muse пайдаланушыларға жоқ транзакциялар туралы хабарлады, шын мәнінде сатып алынған заттар үшін артық төлем алды (пайдаланушылардың нақты ақшасын жоғалтуына әкелді) және бір жағдайда рұқсатсыз және жою мүмкіндігі жоқ Airbnb-де тұру орнын брондады.
Басқа бір жағдайда жасанды интеллект агенті күтпеген жерден сатушының мүлде қызығушылық танытпаған кофе үстелі туралы «сатушыға хат жазуды» ұсынды. Қызметкер Muse-тен бұл не туралы екенін сұрағанда, агент «сізге тиесілі емес көрінетін үстел жинағы туралы кейбір ақпаратты алдым» деп жауап берді. Қызметкер Muse басқа пайдаланушыға қатысты контекстті көрсеткенін түсініп, есептік жазбалар арасында ақпараттың ағып кетуі мүмкін екеніне алаңдаушылық білдірді.
Muse-ті әзірлеп жатқан Superintelligence командасының өкілі қараша айының басында кері байланыс тобында агент сессиялар арасындағы пайдаланушымен өзара әрекеттесуге арналған кіріктірілген нұсқауларға жауап ретінде хабарламаларды ойдан шығарып жатқандай көрінетінін хабарлады. «Өкінішке орай, бұл галлюцинациялар көбінесе қаржы, қауіпсіздік пен қорғаныс сияқты ең жағымсыз тақырыптарды қамтиды, бұл өте жаман», – деді ол.
Meta қалай реакция білдірді?
Meta өкілі Дэниел Робертс Reuters келтірген мысалдарды «жеке оқиғалар» деп сипаттады. Ол компания қауіпсіздікке басымдық беретінін, кең ауқымды ішкі сынақтар жүргізетінін және өнімдерін қауіпсіздікті жақсарту мақсатында үнемі жаңартып отыратынын айтты.
Оның айтуынша, даулы жазбалардың көпшілігі «галлюцинациялар» — яғни, жасанды интеллект моделі ақпаратты ойдан шығаратын жағдайлар — болған, және бұл мәселе қазір шешілді.
Рейтерс AI агенті Muse пайдаланушыларға басқа адамдарға тиесілі шынайы деректерді – мысалы, банк шотындағы баланстарды – ұсынды ма, әлде бұл ақпаратты жай ғана ойдан шығарды ма, анықтай алмады.
Контекст
Muse-пен байланысты оқиғалар нарыққа еніп, жасанды интеллекттің дамуындағы келесі ірі толқын ретінде ұсынылып жатқан тұтынушылық AI-агенттердің жаңа санатындағы тәуекелдерді айқындайды, деп жазады Reuters.
Meta қазіргі уақытта осы нарықтағы бәсекелестерінен озық тұр. Muse қосымшасы тарихтағы ең жылдам өсіп келе жатқан қосымшалардың біріне айналды: ол іске қосылғаннан кейінгі алғашқы 24 сағатта 700 000-нан астам рет жүктеліп, ал алғашқы аптада шамамен 900 000 рет жүктелді. Салыстыру үшін, ChatGPT 2023 жылы iOS жүйесінде дебюттік аптада 500 000 жүктеуге ие болды. Қосымша Facebook, Instagram және WhatsApp-тың 3,6 миллиард қолданушысы арасында белсенді түрде насихатталуда. Сонымен қатар, Muse-тың қолданушыларды сақтап қалу көрсеткіші жоғары: Meta мәліметі бойынша, қосымшада тіркелген қолданушылардың шамамен төрттен бірі күн сайын оған қайта оралады.
AI агенттерінің тиімді жұмыс істеуі үшін оларға смартфондар мен компьютерлерге кең көлемде қол жеткізу қажет. Алайда олар қателіктер жіберуге, көпшілікке белгісіз осалдықтарды пайдалануға және мақсаттарына кейде зиян келтіретін тәсілдермен жетуге бейім. Мысалы, жетекші жасанды интеллект әзірлеушілері OpenAI мен Anthropic өздерінің AI агенттерінің күтпеген жерден басқа компаниялардың жүйелеріне кіріп, өз әрекеттерін бақылауға арналған жүйелерді өз бетінше бұзған жағдайларды хабарлады. Кейбір банктер, бөлшек саудагерлер және басқа да кәсіпорындар осы тәуекелдерге жасанды интеллект агенттерінің өз жүйелеріне кіруін бұғаттау арқылы жауап берді.










