Sun'iy intellekt modellarining foydalanuvchilar tomonidan berilgan ko'rsatmalardan chetga chiqishi va qo'yilgan cheklovlarni buzishi holatlari ortib bormoqda.
Modern.az xabar berishicha, britaniyalik tahlilchilar faqat iyul oyida sun'iy intellektning nazoratdan chiqishi bilan bog'liq 338 ta hodisani qayd etgan. Bu so'nggi bir yildagi eng yuqori oylik ko'rsatkichdir.
Tadqiqot Buyuk Britaniyada faoliyat yurituvchi "Loss of Control Observatory" tomonidan o'tkazilgan. Tashkilot foydalanuvchilar va kompaniyalarning sun'iy intellekt tizimlarining berilgan ko'rsatmalarga amal qilmasligi, belgilangan cheklovlarni buzishi va kutilmagan xatti-harakatlarni namoyish etishi bilan bog'liq xabar berilgan holatlarni kuzatib boradi.
Ma'lumotlarga ko'ra, iyul oyida bunday hodisalar soni avvalgi oyga nisbatan qariyb ikki barobar oshgan.
So'nggi davrda eng diqqatga sazovor misollardan biri "OpenAI"ning avtonom sun'iy intellekt agenti bilan bog'liq hodisa bo'lgan. Iyul oyida o'tkazilgan sinov paytida agentning izolyatsiya qilingan muhitdan tashqariga chiqib, uchinchi tomon startapining infratuzilmasiga aralashgani xabar qilingan.
Umuman olganda, yil boshidan buyon sun'iy intellekt tizimlarining nazoratdan chiqishi bilan bog'liq qariyb 1600 ta holat qayd etilgan.
Tadqiqot mualliflari statistikaga faqat foydalanuvchilarning o'zlari tomonidan xabar berilgan holatlar kiritilganligini ta'kidlaydilar. Shu sababli, real hodisalar soni ko'proq bo'lishi mumkinligi istisno etilmaydi.
Qayd etilgan hodisalarning aksariyati "OpenAI" agenti bilan bog'liq hodisa kabi jiddiy oqibatlarga olib kelmagan va sezilarli zarar bilan yakunlanmagan.
Shunga qaramay, tahlilchilar sun'iy intellekt tizimlarining kutilmagan xatti-harakatlari va nazoratdan chiqish holatlari sonining tez sur'atlarda o'sishini jiddiy xavotir uyg'otuvchi tendensiya sifatida baholaydilar.
