Yapay zekanın hızlı gelişiminin yaratabileceği tehlikelerle ilgili yeni bir uyarı yapıldı.
Modern.az haber verir ki, bu konuda BBC bilgi yayınladı.
“Anthropic” şirketinin yapay zeka güvenliği araştırmacısı Evan Hubinger, önümüzdeki 10 yıl içinde yapay zekanın tüm insanlığın yok olmasına neden olma olasılığını yüzde 10'dan yüksek olarak değerlendirdi.
Hubinger, mevcut yapay zeka modellerinin yarattığı tehlikenin henüz düşük seviyede olduğunu belirtti. Onu endişelendiren asıl mesele ise teknolojinin yakın gelecekte kendini geliştirebilecek seviyeye ulaşmasıdır.
Araştırmacının fikrine göre, yapay zeka sistemleri yeteneklerini hızla artırırsa, insanların bu sistemler üzerindeki kontrolünü kaybetmesi mümkündür. Bu ise teknolojiyi insanlık için varoluşsal bir tehdide dönüştürebilir.
Hubinger bu fikirleri, daha önce “OpenAI” ve “Anthropic” şirketlerinde çalışmış yapay zeka araştırmacısı Jacob Coxon'un paylaşımına yanıt olarak dile getirdi. “Anthropic”ten ayrıldığını açıklayan Coxon, her iki şirketi de sorumsuz davranmakla suçladı.
“Bu sistemler yakında insanlardan üstün seviyeye ulaşabilir. Onlar istenilen sistemi kırabilir, bir gecede çeşitli alanlarda devrim yaratabilir, gerçek güç ve kaynaklar elde edebilirler”, – Coxon belirtti.
Anthropic yeni modelini Britanya'da test etmedi
Uyarı, “Anthropic”in en yeni yapay zeka modelini Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü – AISI'ye sunmaması fonunda dile getirildi.
“Financial Times”ın bilgisine göre, şirket yeni modelinin piyasaya sürülmeden önce AISI tarafından test edilmesine izin vermedi. Bu karar, Britanya hükümetinde yapay zeka modellerinin güvenliğinin bağımsız olarak değerlendirilmesiyle ilgili endişe yarattı.
BBC konuyla ilgili “Anthropic”e başvursa da, şirketin cevabı açıklanmadı. Birleşik Krallık Kabine Ofisi'nin bir temsilcisi de modelin enstitüye sunulup sunulmadığını doğrulamadı.
Kurum, hükümetin “Anthropic” de dahil olmak üzere teknoloji şirketleriyle yapay zeka modellerinin güvenliğinin artırılması yönünde işbirliğini sürdürdüğünü belirtti.
“Yapay zeka ABD-Çin yarışına dönüştü”
Cambridge Üniversitesi makine öğrenimi profesörü Neil Lawrence, “Anthropic”in kararının ABD ile Çin arasında güçlenen teknolojik rekabetle ilişkili olabileceğini düşünüyor.
Onun sözlerine göre, ABD'de yapay zeka giderek daha çok Çin ile stratejik yarışın bir parçası olarak değerlendiriliyor. Washington'ın bu alanda daha kapalı bir politika izlemesi müttefik ülkelerle işbirliğinin azalmasına yol açabilir.
Yapay zekanın insan zekasını aşması ve kendini bağımsız bir şekilde geliştirebilen “süper zeka” sistemlerinin ortaya çıkması son yıllarda teknolojinin güvenliğiyle ilgili tartışmaların ana konularından birine dönüştü. Bununla birlikte, Hubinger'in dile getirdiği yüzde 10'dan yüksek gösterge bilimsel bir konsensüs değil, araştırmacının kişisel risk değerlendirmesidir.
Aydan Qasımova
