Sun'iy intellektning jadal rivojlanishi keltirib chiqarishi mumkin bo'lgan xavflar haqida yangi ogohlantirish berildi.
Modern.az xabar berishicha, bu haqda BBC ma'lumot tarqatdi.
“Anthropic” kompaniyasining sun'iy intellekt xavfsizligi bo'yicha tadqiqotchisi Evan Hubinger kelgusi 10 yil ichida sun'iy intellektning butun insoniyatni yo'q qilish ehtimolini 10 foizdan yuqori baholadi.
Hubingerning ta'kidlashicha, hozirgi sun'iy intellekt modellarining yaratgan xavfi hali past darajada. Uni tashvishga solayotgan asosiy masala esa texnologiyaning yaqin kelajakda o'zini takomillashtira oladigan darajaga yetishidir.
Tadqiqotchining fikricha, agar sun'iy intellekt tizimlari o'z imkoniyatlarini tezda oshirsa, odamlarning ushbu tizimlar ustidan nazoratni yo'qotishi mumkin. Bu esa texnologiyani insoniyat uchun mavjudlik xavfiga aylantirishi mumkin.
Hubinger bu fikrlarni avvalroq “OpenAI” va “Anthropic” kompaniyalarida ishlagan sun'iy intellekt tadqiqotchisi Jacob Coxonning postiga javoban bildirdi. “Anthropic”dan ketganini e'lon qilgan Coxon har ikki kompaniyani mas'uliyatsiz harakat qilishda aybladi.
“Bu tizimlar tez orada insonlardan ustun darajaga yetishi mumkin. Ular istalgan tizimni buzishi, bir kechada turli sohalarda inqilob yaratishi, real kuch va resurslarga ega bo'lishi mumkin”, – dedi Coxon.
Anthropic o'zining yangi modelini Britaniyada sinovdan o'tkazmadi
Ogohlantirish “Anthropic”ning eng yangi sun'iy intellekt modelini Buyuk Britaniyaning Sun'iy Intellekt Xavfsizligi Institutiga – AISIga taqdim etmagani fonida yangradi.
“Financial Times”ning ma'lumotlariga ko'ra, kompaniya o'zining yangi modelini chiqarilishdan oldin AISI tomonidan sinovdan o'tkazishga ruxsat bermagan. Bu qaror Britaniya hukumatida sun'iy intellekt modellarining xavfsizligini mustaqil baholash bilan bog'liq xavotirlarni keltirib chiqardi.
BBC masala yuzasidan “Anthropic”ga murojaat qilgan bo'lsa-da, kompaniyaning javobi oshkor etilmadi. Buyuk Britaniya Vazirlar Mahkamasi Ofisining vakili ham modelning institutga taqdim etilgan yoki etilmaganligini tasdiqlamadi.
Muassasa hukumat “Anthropic”ni ham o'z ichiga olgan texnologiya kompaniyalari bilan sun'iy intellekt modellarining xavfsizligini oshirish yo'nalishida hamkorlikni davom ettirayotganini bildirdi.
“Sun'iy intellekt AQSh–Xitoy raqobatiga aylandi”
Kembrij Universitetining mashina o'rganish bo'yicha professori Neil Lawrence “Anthropic”ning qarori AQSh va Xitoy o'rtasidagi kuchayib borayotgan texnologik raqobat bilan bog'liq bo'lishi mumkin deb hisoblaydi.
Uning so'zlariga ko'ra, AQShda sun'iy intellekt tobora ko'proq Xitoy bilan strategik raqobatning bir qismi sifatida baholanmoqda. Vashingtonning bu sohada yanada yopiq siyosat yuritishi ittifoqchi davlatlar bilan hamkorlikning kamayishiga olib kelishi mumkin.
Sun'iy intellektning inson aqlini ustun qo'yishi va o'zini mustaqil ravishda rivojlantira oladigan “superintellekt” tizimlarining paydo bo'lishi so'nggi yillarda texnologiya xavfsizligi bilan bog'liq munozaralarning asosiy mavzularidan biriga aylandi. Shunga qaramay, Hubingerning bildirilgan 10 foizdan yuqori ko'rsatkich ilmiy konsensus emas, balki tadqiqotchining shaxsiy xavfni baholashidir.
Aydan Qosimova
