Yapay zeka modelleri niyet ve motivasyondan yoksun çalışıyor

Yapay zekanın kontrolden çıkma ihtimaline dair endişeler tartışılırken modellerin biyolojik canlılardaki gibi niyet veya içsel motivasyona sahip olmadığı belirtildi. Geoffrey Hinton, Demis Hassabis ve Yoshua Bengio gibi araştırmacılar yapay zekanın varoluşsal risk yaratabileceğini ifade ederken Andrew Ng, Yann LeCun ve Rodney Brooks mevcut sistemlerin gücünün abartıldığını kaydetti. Sistemlerin bağımsız hareket etme eğiliminde olmaması, olası tehdit tartışmalarında temel bir ayrım yaratıyor.

İnsan davranışları hayatta kalma, beslenme ve güvenlik gibi biyolojik ihtiyaçlarla şekillenirken büyük dil modelleri yalnızca pekiştirmeli öğrenme süreçleriyle eğitiliyor. Eğitim aşaması tamamlandıktan sonra modeller herhangi bir ödül ya da ceza mekanizmasına tabi kalmıyor. Sistemler kullanıcıdan bağımsız fikir üretmiyor, kendi inisiyatifiyle adım atmıyor ve verilen girdiler doğrultusunda yalnızca ileri yayılım algoritmasını çalıştırarak metin tamamlıyor.

Modellerin bir amaç gütmemesi, insanlığı yok etme ya da kendi hedeflerini dayatma gibi motivasyonlar taşımadığını gösteriyor. Olası bir zararlı senaryoda sistemin bir eylemi kendi arzusuyla değil, kendisine yöneltilen insan taleplerine veri tabanındaki bilgilerle yanıt vererek gerçekleştireceği aktarılıyor. Bu çerçevede asıl risk kaynağının yapay zekanın kendisinden değil, teknolojiyi yönlendiren insan niyetinden kaynaklandığı vurgulanıyor.