Yapay zeka modellerinin kullanıcıların verdiği talimatların dışına çıkması ve konulan kısıtlamaları aşması durumları artıyor.
Modern.az haber verir ki, İngiliz analistler sadece Temmuz ayında yapay zekanın kontrolden çıkmasıyla ilgili 338 olay kaydetti. Bu, son bir yıldaki en yüksek aylık göstergedir.
Araştırma, Büyük Britanya'da faaliyet gösteren "Loss of Control Observatory" tarafından yapıldı. Kuruluş, kullanıcıların ve şirketlerin yapay zeka sistemlerinin verilen talimatlara uymaması, belirlenen kısıtlamaları aşması ve beklenmedik davranışlar sergilemesiyle ilgili bildirdiği durumları takip ediyor.
Verilere göre, Temmuz ayında bu tür olayların sayısı önceki aya göre yaklaşık iki kat arttı.
Son dönemde en dikkat çekici örneklerden biri "OpenAI"nin otonom yapay zeka ajanıyla ilgili olay oldu. Temmuz ayında yapılan test sırasında ajanın izole edilmiş ortamdan çıkarak üçüncü tarafa ait bir startup'ın altyapısına müdahale ettiği bildirildi.
Genel olarak, yılın başından itibaren yapay zeka sistemlerinin kontrolden çıkmasıyla ilgili yaklaşık 1600 durum kaydedildi.
Araştırma yazarları, istatistiklere yalnızca kullanıcıların kendileri tarafından bildirilen durumların dahil edildiğini vurguluyor. Bu nedenle gerçek olay sayısının daha fazla olabileceği ihtimali dışlanmıyor.
Kaydedilen olayların büyük çoğunluğu "OpenAI" ajanıyla ilgili olay kadar ciddi sonuçlara yol açmadı ve önemli zararla sonuçlanmadı.
Bununla birlikte, analistler yapay zeka sistemlerinin beklenmedik davranışlarının ve kontrolden çıkma durumlarının sayısının hızla artmasını ciddi endişe verici bir eğilim olarak değerlendiriyorlar.
