Anthropic asoschisi: sun’iy intellekt tez orada o‘zini-o‘zi yaratishi (qayta tiklashi) mumkin

Anthropic kompaniyasi hammuassisi Jek Klark sun’iy intellekt sanoatini texnologiyalar inson ishtirokisiz o‘zini o‘zi rivojlantirish bosqichiga o‘tishidan oldin ehtiyotkorlikka chaqirdi.

Uning ta’kidlashicha, yaqin kelajakda sun’iy intellekt agentlari yangi modellarni mustaqil yaratish va o‘qitish imkoniyatiga ega bo‘lishi mumkin. Bu esa insonlarning bunday tizimlar ustidan nazoratini zaiflashtirishi ehtimolini yuzaga keltiradi.

Jek Klark BBC’ga bergan intervyusida hozirning o‘zida Anthropic kompaniyasida dasturlash ishlarining qariyb 80 foizi Claude sun’iy intellekti tomonidan bajarilayotganini ma’lum qildi. Uning fikricha, bir necha yil ichida bu ko‘rsatkich 100 foizga yetishi mumkin.

Biroq u bu jarayonning davom etishi yoki to‘xtatilishi insoniyatning tanloviga bog‘liq ekanini ta’kidladi.

— Bizningcha, dunyo bu mavzu haqida ancha ko‘proq gapirishi kerak. Hozir sun’iy intellekt sanoatida gaz pedali bor, ammo bu mashinada tormoz pedali yo‘q. Biz esa ana shu tormoz tizimini yaratishga harakat qilmoqdamiz, — dedi Klark.

Rekursiv o‘zini takomillashtirish nima?

Anthropic bu jarayonni “rekursiv o‘zini takomillashtirish” deb ataydi.

Mazkur modelda sun’iy intellekt tizimi inson yordamisiz o‘z imkoniyatlarini yaxshilashi, yangi modellar yaratishi va ularni o‘qitishi mumkin bo‘ladi.

Kompaniya ma’lumotiga ko‘ra, kelajakda Claude kabi tizimlar yetarlicha rivojlanib, o‘z vorislarini mustaqil ravishda yaratish darajasiga chiqishi mumkin. Natijada sun’iy intellekt uzluksiz ravishda o‘zini o‘zi takomillashtirib boradi.

Mutaxassislarning fikricha, bunday texnologiyalar ilm-fan, tibbiyot va boshqa ko‘plab sohalarda ulkan yutuqlarni ta’minlashi mumkin.

Shu bilan birga, Anthropic vakillari bu jarayon insoniyat uchun yangi xavflarni ham keltirib chiqarishini ta’kidlashmoqda.

Nazorat yo‘qolishi mumkinmi?

Kompaniya blogida qayd etilishicha, agar sun’iy intellekt tizimlari o‘zlarining keyingi avlodlarini mustaqil ravishda yarata boshlasa, ularni boshqarish va xavfsizligini ta’minlash yanada muhim masalaga aylanadi.

— Agar tizimlar o‘z davomchilarini to‘liq mustaqil yaratishga qodir bo‘lsa, ularni qanday nazorat qilishimiz va xatti-harakatlarini qanday shakllantirishimiz masalasi nihoyatda muhim bo‘lib qoladi, — deyiladi kompaniya bayonotida.

Anthropic ma’lumotlariga ko‘ra, Claude allaqachon bunday imkoniyatlar tomon yaqinlashayotganini ko‘rsatmoqda.

So‘nggi bir yil davomida kompaniya xodimlari tomonidan dastur kodlariga kiritiladigan tuzatishlar soni muntazam kamayib bormoqda. Bu esa Claude yozayotgan kodlar tobora kamroq xato qilayotganini anglatadi.

Sun’iy intellekt mustaqil tadqiqot ham o‘tkaza oladi

Anthropic ta’kidlashicha, Claude nafaqat kod yozadi, balki mustaqil ilmiy tadqiqotlar ham olib bora oladi.

Masalan, unga “Kuchsizroq model kuchliroq modelni nazorat qila oladimi?” kabi ochiq savol berilganda, u inson aralashuvisiz turli yechimlarni izlab topa oladi va tadqiqot olib boradi.

Kompaniya mutaxassislarining fikricha, bu holat sun’iy intellekt ishlab chiqish jarayonining har bir bosqichida insonning roli tobora qisqarib borayotganini ko‘rsatadi.

“Tormoz tizimi” yaratiladimi?

Anthropic maxsus ilmiy markaz tashkil etib, sun’iy intellekt rivojlanishini nazorat qilish va zarur holatlarda uni sekinlashtirish yoki to‘xtatish mexanizmlarini ishlab chiqishga kirishgan.

Biroq kompaniya fikricha, rekursiv sun’iy intellekt rivojlanishini real ravishda nazorat qilish uchun dunyoning turli mamlakatlaridagi yetakchi texnologik laboratoriyalar bir xil qoidalarga amal qilishi va ma’lum sharoitlarda rivojlanishni vaqtincha to‘xtatishga kelishib olishi kerak bo‘ladi.

Mutaxassislarning ta’kidlashicha, sun’iy intellektning o‘zini o‘zi yaratish va takomillashtirish imkoniyatiga ega bo‘lishi texnologiyalar tarixidagi eng muhim burilish nuqtalaridan biri bo‘lishi mumkin. Shu sababli ushbu jarayonning xavfsizligini ta’minlash masalasi bugundan boshlab global miqyosdagi muhokama mavzusiga aylanmoqda.