Արհեստական ինտելեկտի արագ զարգացման հնարավոր վտանգների մասին նոր նախազգուշացում է հնչել:
Modern.az-ը հայտնում է, որ այս մասին տեղեկություն է տարածել BBC-ն:
«Anthropic» ընկերության արհեստական ինտելեկտի անվտանգության հետազոտող Էվան Հուբինգերը առաջիկա 10 տարվա ընթացքում արհեստական ինտելեկտի կողմից ողջ մարդկության ոչնչացման հավանականությունը գնահատել է 10 տոկոսից ավելի:
Հուբինգերը նշել է, որ արհեստական ինտելեկտի ներկայիս մոդելների կողմից ստեղծված վտանգը դեռ ցածր մակարդակի վրա է: Նրան անհանգստացնող հիմնական խնդիրն այն է, որ տեխնոլոգիան մոտ ապագայում կհասնի ինքնակատարելագործման մակարդակի:
Հետազոտողի կարծիքով, եթե արհեստական ինտելեկտի համակարգերն արագորեն մեծացնեն իրենց հնարավորությունները, մարդիկ կարող են կորցնել վերահսկողությունը այդ համակարգերի նկատմամբ: Սա կարող է տեխնոլոգիան դարձնել մարդկության համար գոյության սպառնալիք:
Հուբինգերը այս մտքերն արտահայտել է ի պատասխան արհեստական ինտելեկտի հետազոտող Ջեյքոբ Քոքսոնի հրապարակմանը, ով նախկինում աշխատել է «OpenAI» և «Anthropic» ընկերություններում: Քոքսոնը, ով հայտարարել է «Anthropic»-ից հեռանալու մասին, երկու ընկերություններին էլ մեղադրել է անպատասխանատու վարքի մեջ:
«Այս համակարգերը շուտով կարող են գերազանցել մարդկանց: Նրանք կարող են կոտրել ցանկացած համակարգ, մեկ գիշերվա ընթացքում հեղափոխություն անել տարբեր ոլորտներում, ձեռք բերել իրական ուժ և ռեսուրսներ», – ասել է Քոքսոնը:
Anthropic-ը իր նոր մոդելը չի փորձարկել Բրիտանիայում
Նախազգուշացումը հնչել է այն բանից հետո, երբ «Anthropic»-ը իր նորագույն արհեստական ինտելեկտի մոդելը չի ներկայացրել Մեծ Բրիտանիայի Արհեստական Ինտելեկտի Անվտանգության Ինստիտուտին (AISI):
«Financial Times»-ի տվյալներով, ընկերությունը թույլ չի տվել, որ իր նոր մոդելը թողարկումից առաջ փորձարկվի AISI-ի կողմից: Այս որոշումը մտահոգություն է առաջացրել Բրիտանիայի կառավարությունում արհեստական ինտելեկտի մոդելների անվտանգության անկախ գնահատման վերաբերյալ:
BBC-ն այս հարցով դիմել է «Anthropic»-ին, սակայն ընկերության պատասխանը չի հրապարակվել: Մեծ Բրիտանիայի Նախարարների կաբինետի գրասենյակի ներկայացուցիչը նույնպես չի հաստատել, թե արդյոք մոդելը ներկայացվել է ինստիտուտին:
Կառույցը հայտնել է, որ կառավարությունը շարունակում է համագործակցել տեխնոլոգիական ընկերությունների, այդ թվում՝ «Anthropic»-ի հետ՝ արհեստական ինտելեկտի մոդելների անվտանգությունը բարձրացնելու ուղղությամբ:
«Արհեստական ինտելեկտը վերածվել է ԱՄՆ-Չինաստան մրցակցության»
Քեմբրիջի համալսարանի մեքենայական ուսուցման պրոֆեսոր Նիլ Լոուրենսը կարծում է, որ «Anthropic»-ի որոշումը կարող է կապված լինել ԱՄՆ-ի և Չինաստանի միջև ուժեղացող տեխնոլոգիական մրցակցության հետ:
Նրա խոսքով, ԱՄՆ-ում արհեստական ինտելեկտը գնալով ավելի շատ է դիտարկվում որպես Չինաստանի հետ ռազմավարական մրցակցության մաս: Վաշինգտոնի կողմից այս ոլորտում ավելի փակ քաղաքականություն վարելը կարող է հանգեցնել դաշնակից երկրների հետ համագործակցության նվազմանը:
Արհեստական ինտելեկտի կողմից մարդկային բանականությունը գերազանցելը և ինքնուրույն զարգանալու ունակ «գերինտելեկտ» համակարգերի ստեղծումը վերջին տարիներին դարձել է տեխնոլոգիայի անվտանգության վերաբերյալ քննարկումների հիմնական թեմաներից մեկը: Այնուամենայնիվ, Հուբինգերի կողմից հնչեցված 10 տոկոսից ավելի ցուցանիշը գիտական կոնսենսուս չէ, այլ հետազոտողի անձնական ռիսկի գնահատականն է:
Այդան Ղասիմովա
