The OpenAI Files: ірі AI әзірлеушісінде қандай мәселе туындады?

Желіде тараған The OpenAI Files есебінде ChatGPT әзірлеушісінің мәселелері жарық көрді. Есеп авторларының айтуынша, бұл құжат — басқару тәсілдері, басшылықтың әділдігі және ұйымдастырушылық мәдениетке қатысты OpenAI мәселелерінің бүгінгі күндегі ең толық жинағы. Стартаптар туралы The Edinorog Telegram-арнасының авторы, журналист Дмитрий Филонов өз блогында есептің негізгі тұжырымдарын жинақтап жазды. Oninvest бұл мәтінді шағын өзгерістермен жариялайды.

Алдымен маңызды сұрақ — бұл есептің авторлары кім? 

Сайт OpenAI мен оның ірі инвесторы Microsoft арасындағы қарым-қатынас қайнаған сәтте пайда болған еді. OpenAI өз бетінше жұмыс істеп, толық коммерциялық компания болғысы келеді, алайда Microsoft бұған аса келісе қоймады.

Сайтта есеп авторлары ретінде The Midas Project пен The Tech Oversight Project көрсетілген. Бірінші — AI компанияларының жұмыс тәжірибесін қадағалап, олардың ашықтығын және этикалық стандарттарды сақтауын қамтамасыз ету үшін зерттеу жүргізеді. Екіншісі — ірі технологиялық компаниялардың монополияға қарсы заңдарды, қауіпсіздік талаптарын және басқа да нормаларды сақтауын бақылаумен айналысады.

«Біз бұл есепке Илон Маск, xAI, Anthropic, Meta, Google, Microsoft немесе OpenAI-дің басқа да бәсекелестерінен ешқандай қаржылай қолдау, редакциялық нұсқаулық не басқа көмек алған жоқпыз. Бұл құжат тек қоғамдық мүдде мен корпоративтік жауапкершілік қағидаттарына сүйене отырып дайындалды», — деп жазады авторлар.

Есепте не айтылған? Құжат бірнеше негізгі бөлімнен тұрады: қайта құрылымдау процесі, бас директор Сэм Альтман туралы, ашықтық пен қауіпсіздік мәселелері, директорлар кеңесіндегі мүдделер қақтығысы және қызметкерлердің пікірлері.

Төменде негізгі тұжырымдар берілген, дегенмен есеппен толық танысқаныңыз жөн.

Қайта құрылымдау тәуекелдері туралы

1. OpenAI инвесторлардың кіріс шектеуін алып тастағысы келеді. Бастапқыда олардың кірістілігі 100 есе максимуммен шектелген болатын. Бұл шектеудің бастамасы — егер OpenAI бүкіл адам еңбегін алмастыра алатын супер жасанды интеллект жасаса, одан түсетін кіріс адамзаттың игілігіне жұмсалуы тиіс болатын. Енді осы шектеуді алынғанын қалайды. Яғни болашақ кірістің бәрі инвесторларға кетпек.

2. OpenAI-дің жұмысы формалды түрде коммерциялық емес ұйымның бақылауында деп айтылған. Алайда компания бұл ұйымның өкілеттілігін айырғысы келеді. Яғни, енді ол ұйымның директорлар кеңесі OpenAI-ден есеп талап етуге толық құзыретті болмайды. 

3. Инвесторлар OpenAI-ге құрылымдық өзгерістер енгізу үшін қысым жасауда. Компания мұндай өзгерістердің қажеттілігін инвесторларды сабырға шақыру үшін мойындайтын секілді. Кірістілік шектеуін алып тастау да осы қысымның нақты көрінісі саналады.

Бас директор Сэм Альтман туралы

Сэм Альтманның басшылық тәсілдері мен кейбір жансақ мәлімдемелері күмән тудырып отыр.

1. Сэм Альтман жұмыс істеген үш ірі жобаның әрқайсында оны қызметінен шеттетуге әрекет жасалған. Алғашқы стартапында топ-менеджерлер екі рет директорлар кеңесіне оның «алдамшы әрі бейберекет әрекеті» үшін шағым түсірген. Ал Y Combinator ұйымында оны орнынан кетуге мәжбүрлеп, жұмыстан жиі қалатынын және жеке пайдасын жоғары қоятынын алға тартқан.

2. OpenAI компаниясында Альтман қызметкерлерге өте қатаң құпиялылық келісімдерін қол қойғызу туралы білмедім деген. Бірақ сол келісімдерге қол қоймаған жағдайда қызметкерлерден акцияларын қайтарып алуға мүмкіндік беретін құжаттарға өзі қол қойған.

3. Альтман OpenAI директорлар кеңесіне бірнеше рет жалған мәлімет берген. Мысалы, қауіпсіздік процедурасынан шегіну юристермен келісілген деп айтқан, алайда бұл расталмаған. Тағы бір мәлімдемесінде кеңес мүшелерінің бірі екіншісін шеттеткісі келді деп айтқан, бірақ бұл да шындыққа жанаспайды.

Ашықтық пен қауіпсіздік туралы

OpenAI-дің қауіпсіздік процестері, ашықтық және ұмымдастырушылық мәдениетке қатысты алаңдаушылықтары айтылған.

1. Қызметкерлерге қойылатын өте қатаң құпиялылық шарты қайта қозғалды. Бұл құжатқа сәйкес, егер қызметкерлер компанияны сынаса (тіпті жұмыстан кеткен соң да), акциялары мен опциондарынан айырылып қалуы мүмкін болған.

2. OpenAI AI қауіпсіздігін бағалау процестерін жеделдеткен. Бұл шешім өнімдерді тезірек шығару үшін және қауіпсіздік тесттеріне бөлінетін уақыт пен ресурсты қысқарту мақсатында қабылданған секілді.

3. Инсайдерлер OpenAI-дің жұмыс мәдениетін жабық әрі жауапсыз деп сипаттайды. Кейбір қызметкерлер ұйымның өз міндеттерін орындамайтынын айтып шағымданған және олардың алаңдаушылық білдіруіне жүйелі түрде тосқауыл қойылған.

Директорлар кеңесіндегі мүдделер қақтығысы туралы

1. OpenAI-дің (коммерциялық емес ұйым ретінде тіркелген бөлігінің) директорлар кеңесінде тәуелсіз директорлар бар. Алайда зерттеушілер олардың шын мәнінде қаншалықты тәуелсіз екеніне күмән келтіреді. Себебі олардың OpenAI-мен серіктес компанияларға инвестиция салғаны белгілі. Бұл жағдай мүдделер қақтығысын тудыруы мүмкін.

2. OpenAI бас директоры Сэм Альтман өзінің қаржылық мүддесін азайтып көрсетуге тырысқан. Ол OpenAI-ден ешқандай қаржылық пайда көздемеймін деп мәлімдеген. Алайда Forbes-тың 2025 жылғы 20 маусымдағы бағалауы бойынша Альтманның $1,8 млрд-қа бағаланған байлығының едәуір бөлігі OpenAI-мен серіктес компанияларға салынған инвестициялардан құралған. Мысалы, Retro Biosciences пен Rewind AI секілді компаниялар OpenAI-дің өсуінен тікелей пайда көріп отыр.

3. OpenAI ешбір директор кеңесі мүшесінің өз еркімен шешім қабылдаудан шеттетілгені туралы мәлімдеме жасаған жоқ. Ал дәл осы кеңес мүшелері компанияны қайта құрылымдау, оны коммерциялық ұйымға айналдыру және инвесторлардың пайдасына қойылған шектеулерді алып тастау секілді аса маңызды шешімдерді қабылдауы тиіс.

Енді мұның бәрімен не істеу керек?

Бұл зерттеудің авторлары жағдайды жақсарту үшін OpenAI не істеуі керек екенін жеке бөлімде көрсеткен. Онда айтылған ұсыныстар, негізінен, айқын әрі түсінікті: компанияның жұмысы бұрынғыдай коммерциялық емес құрылымның бақылауында қалуы тиіс, қауіпсіздік мәселесіне көбірек көңіл бөлінуі керек, бақылау және қадағалау жүйелері құрылуы қажет, басшылықтан жауапкершілік талап етілуі тиіс, сондай-ақ Сэм Альтманның іс-әрекеттері қайта зерттелуі керек.

Басты сұрақ — мұны OpenAI мен Сэм Альтманнан талап ете алатын біреу бар ма? Қазіргі жағдайдың өзінде олар өздерін жайлы сезініп отырғаны байқалады. Ал бұл зерттеуді жүргізген The Midas Project пен The Tech Oversight Project — тек бақылаушы рөліндегі коммерциялық емес ұйымдар ғана.