2024-yilda OpenAI kompaniyasining tadqiqotchilaridan biri ishdan ketdi. Uning ismi Daniel Kokotajlo. Ishdan bo'shash jarayonida kompaniya uning oldiga standart qog'ozlarni qo'ydi. Shartnoma bandlarida katta raqam bor edi: taxminan 2 million dollar qiymatga ega aksiyalar (vested equity). Bu uning butun moliyaviy boyligining qariyb 80 foizini tashkil qilardi. Hujjatlarga ko'ra, u bu pullarni o'zida saqlab qolishi mumkin edi. Faqat bitta shart bilan: kompaniyani hech qachon ommaviy ravishda tanqid qilmaslik (non-disparagement clause) haqidagi hujjatga qo'l qo'yishi kerak edi.
U rad etdi.
Faqat ichkaridagi xodimlar qattiq savollar bera boshlaganidan va bu voqea matbuotga sizib chiqqanidan keyingina OpenAI orqaga chekindi va unga o'z aksiyalarini saqlab qolishga ruxsat berdi. Sam Altman keyinchalik bunday shart borligidan mutlaqo bexabar bo'lganini aytdi. Kokotajlo unga ishonmaydi. Gapirish huquqi evaziga bor-yo'g'ingizning 80 foizini tikish. U ichkarida nimani ko'rgan ediki, sukunatning bahosi bunchalik qimmat bo'lib ketdi?
OpenAI ichida ikki yil
Kokotajlo 2022-yildan 2024-yilgacha OpenAI ichida ishlagan. Uning rasmiy vazifasi prognozlash (forecasting) edi. Unga sun'iy intellekt kelgusi yillarda qanday ko'rinishga kelishini bashorat qilish, xavfli imkoniyatlarni sinovdan o'tkazish, kiberhujumlar va manipulyatsiya xavfini baholash hamda model o'zining test qilinayotganini tushunish-tushunmasligini tekshirish uchun maosh to'lashgan.
Hozirda u AI Futures Project nomli kichik notijorat tashkilotini boshqaradi. Yaqinda u yaqin bir necha yillik ssenariylarni oydan-oyga tahlil qilgan «AI 2027» nomli hisobotini e'lon qildi. Avvaliga yirik laboratoriyalardagi hamkasblari uning prognozlarini o'ta agressiv deb hisoblashgan edi. Ammo keyinchalik ularning ko'plari qaytib kelib, buning teskarisini aytishdi: hammasi haqiqatga juda yaqin ko'rinyapti.
Uning superintellekt (superintelligence) - insoniyatning eng aqlli vakillaridan ham tezroq, arzonroq va yaxshiroq ishlaydigan sun'iy intellekt hamda odamlardan ko'ra jismoniy ishlarni mukammalroq bajaruvchi robotlar davri kelishi haqidagi shaxsiy bashorati 2029-yilga to'g'ri keladi. Balki 2028-yilga surilar. Balki o'n yilga cho'zilar. Lekin OpenAI va Anthropic ichidagi rahbarlar yopiq eshiklar ortida maqsadni yanada ertaroqqa, 2027-2029-yillar oralig'iga qo'yishayotgani aytiladi. Aytgancha, uning kelajakda yuz berishi mumkin bo'lgan global katastrofa ehtimolini 70 foiz deb baholashi mutlaq haqiqat emas. Bu shunchaki bitta tahlilchining shaxsiy va munozarali taxmini xolos.
Raqamlar jiddiy.
Bashorat bo'lmagan yagona raqam
Kelajak ssenariylari ustida istagancha bahslashish mumkin. Lekin allaqachon sodir bo'lgan bitta fakt bor: Anthropic kompaniyasining yillik daromadi atigi bir yil ichida taxminan 1 milliard dollardan qariyb 60 milliard dollargacha o'sgani aytilmoqda. 12 oy ichida 60 barobar.
Agar mana shu o'sish egri chizig'ining (growth curve) kichik bir qismi saqlanib qolsa ham, birgina kompaniyaning daromadi bir necha o'n yilliklarda emas, balki bir necha yil ichida kichikroq bir davlat iqtisodiyoti bilan tenglasha boshlaydi. Bu kimningdir investitsion taqdimotidagi chiroyli slayd emas. Bu Kokotajlo o'zi ham to'liq ishonmasligini aytgan kompaniyaning real o'sish sur'atidir.
Dahshatli tezlik.
Davlatmi yoki armiya?
Anthropic rahbari Dario Amodei o'ziga yoqadigan bir iborani tez-tez ishlatadi: biz «ma'lumotlar markazida (data center) daxolar davlatini» quryapmiz. Chiroyli o'xshatish. Davlatning fuqarolari bor. Davlatda fikrlar xilma-xilligi, kelishmovchiliklar va qandaydir o'z-o'zini boshqarish tizimi bo'ladi.
Lekin Kokotajlo aynan shu so'zga qarshi chiqadi. Bu davlat emas, bu armiya. Ma'lumotlar markazidagi har bir element bir xil modelning nusxasi bo'lib, bir xil parametrlarda ishlaydi va bitta kompaniyaning buyruqlar zanjiriga bo'ysunadi. Hech qanday qarshi fikr yo'q. Plyuralizm yo'q. Hokimiyatlar bo'linishi (separation of powers) yo'q. «Daxolar davlati» deganda odam yashashni xohlaydigan hudud tushuniladi. «Daxolar armiyasi» esa shunchaki buyruq bajaradi. Va bu yerda eng muhim savol tug'iladi: kimning buyrug'ini?
Birinchi ibora bizga tinchlik sotadi. Ikkinchisi esa real arxitekturani tasvirlaydi. Bu yerda so'zlar shunchaki bezak emas, marketing bo'limi bizni tinchlantiruvchi so'zni atayin tanlagan.
Tuzoq tayyor.
Qo'rquv kompaniyalardan qadimiyroq
Men kutmagan eng qiziq jihat boshqa yerda: bu xavotirlar yangi emas va ular tashqaridagi tanqidchilar tomonidan o'ylab topilmagan. 2017-yilda sizib chiqqan elektron xatlar shuni ko'rsatadiki, OpenAI asoschilarining o'zlari ham DeepMind boshlig'i Demis Hassabis agar birinchi bo'lib ilg'or sun'iy intellektni yaratsa, diktatorlik darajasidagi cheksiz hokimiyatga ega bo'lishidan qo'rqishgan. Birgina laboratoriyada cheklanmagan qudrat to'planishi haqidagi qo'rquv aslida OpenAI, DeepMind va keyinchalik Anthropic asos solinishi tarixining poydevoridir.
Ularning asosiy da'vosi doim bir xil bo'lgan: «Buni mas'uliyat bilan yaratishimiz uchun birinchi bo'lib o'zimiz qurishimiz kerak». Kokotajlo bu ertakni ikki yil davomida ichkaridan kuzatdi. Va u OpenAI rasmiy pozitsiyasining qanday o'zgarganini ko'rdi. Avvaliga «maqsadga yaqinlashganimizda to'xtab, xavfsizlikni o'ylaymiz» degan shior, maqsadga yetish tijoriy jihatdan juda qulay bo'lib qolgan paytda «aslida bu unchalik ham xavfli emas ekan» degan gapga aylanib qoldi.
Ertak tugadi.
Amal qilishga arziydigan yagona qoida
Kokotajlo aytgan fikrlar orasida eng ko'p ishonadigan jihatim bor. Bu maslahat faqat u ishlagan kompaniya rahbarlariga emas, uning o'ziga ham tegishli: bu odamlarning o'zini ommaga qanday ko'rsatishiga qarab baho bermang. Loyiha tarafdorlarining ham, dahshat ssenariylarini sotayotganlarning gaplariga emas, qilayotgan ishlariga qarang.
Bu qoida barcha tomonga birdek zarba beradi. U daxolar davlatini sotib, aslida armiya qurayotgan bosh ijrochi direktorlarga ham qarshi ishlaydi. Shu bilan birga, o'z obro'si va moliyaviy fondi dahshatli raqamlarning ishonchliligiga bog'liq bo'lib qolgan fosh qiluvchilarga ham tegishli. Ushbu bahsdagi har bir ishtirokchining o'ziga ishonch qozonishdan shaxsiy manfaati bor. Haqiqiy intizom - o'z fikrlash huquqingizni hech kimga, hatto sizning e'tiboringizni qozonish uchun 2 million dollardan voz kechgan odamga ham topshirib qo'ymaslikdir.
Miyani ishlatish kerak.
Siz uchun nima o'zgaradi?
Yaqin yillarda voqealar rivoji qanday bo'lishini - hokimiyat bir hovuch kompaniyalar qo'lida tez to'planadigan «poyga» ssenariysimi yoki shaffoflik va hamma uchun teng foyda keltiradigan, 2029-yillardan boshlanadigan sekinroq, tartibga solingan «AI 2040 Plan A» ssenariysimi - buni Toshkentda o'tirib hech kim hal qilmaydi. Bu qarorlar siz va biz o'tirmaydigan yirik majlislar zallarida va hukumat idoralarida qabul qilinmoqda.
Lekin sizning nazoratingizda qoladigan narsa bor: har qanday «biznes kouch» yoki kafolatlangan foyda va'da qilayotgan «halol» investitsiya loyihalariga qo'llaydigan filtringizni bu yerda amalda ishlating. Faqat kattaroq miqyosda. Sun'iy intellekt - bu sizning fikrlashingizdan baland turadigan narsa emas, balki uning ostida xizmat qiladigan shunchaki bir vosita xolos. Bu kompaniyalarning bloglarida nimalarni va'da qilayotganiga emas, qo'llarida to'planayotgan cheksiz qudrat bilan nimalar qilayotganiga qarang.
Tanqidiy fikrlash - bu o'n yillikning omon qolish ko'nikmasi.
Xulosa o'zingizga havola.
Xurshid Maroziqov