Yapay zeka araştırmacıları insanlığı tehdit eden riskler nedeniyle istifa ediyor

Önde gelen yapay zeka şirketlerinde çalışan mühendisler ve araştırmacılar, teknolojinin insan denetiminden çıktığı gerekçesiyle görevlerinden ayrılmaya başladı. Google DeepMind bünyesinden ayrılan Rishub Jain ve Anthropic'ten istifa eden Jacob Coxon, şirketlerin kendi kendini geliştiren sistemler kurma yarışında hayati riskler aldığını belirtti. Coxon, şirketlerin süper zekaya ulaşmak için insanların hayatını riske attığını kaydederken bir Anthropic yöneticisi de yapay zekanın gelecek on yılda insanlığı yok etme olasılığının yüzde 10'dan fazla olduğunu aktardı.

Araştırmacıları en çok tedirgin eden unsurların başında, modellerin sonraki nesillerini kodlayarak insan müdahalesini devreden çıkardığı döngüsel gelişim süreci geliyor. Bu yaklaşım henüz tam olarak otonom hale gelmese de binlerce yapay zeka ajanının karmaşık problemleri çözmek üzere ortak çalışması denetimi giderek zorlaştırıyor. MIRA adlı araştırma kuruluşundan Nate Soares, modeller akıllandıkça insan değerleriyle uyum sağlamanın kolaylaşmadığını, aksine denetimin daha karmaşık bir hal aldığını vurguladı.

Sektör içindeki endişeler yalnızca küresel felaket senaryolarıyla sınırlı kalmıyor; siber saldırılar, biyolojik silah tehditleri ve askeri kullanımlar da ciddi bir kaygı kaynağı oluşturuyor. Anthropic, biyolojik silah korkuları nedeniyle bazı dış araştırmacıların erişimini kestiğini duyurdu. DeepMind'dan ayrılan Jain ise insanı denetim sürecinde tutmayı amaçlayan Sampura Research girişimini kurarak insan ve yapay zeka iş birliğiyle güvenli modeller geliştirilebileceğine inandığını söyledi.