Uzmanlar ve siyasetçiler yapay süper zeka risklerine karşı uyardı

İngiltere ve ABD'de bir araya gelen bilim insanları, siyasetçiler ve sektör çalışanları, yapay süper zekanın (ASI) insanlık için nükleer silahlardan daha büyük bir tehdit oluşturabileceğini açıkladı. İngiltere Parlamentosunda düzenlenen oturumda eski Savunma Bakanı Des Browne ve bilgisayar bilimci Stuart Russell, kontrolün geri dönülemez biçimde kaybedilebileceği uyarısında bulundu. Etkinliği düzenleyen Control AI grubu, İşçi Partisi Milletvekili Alex Sobel tarafından sunulan ve yapay süper zeka geliştirilmesini yasaklamayı hedefleyen yasa tasarısına destek verdi.

Anthropic bünyesinde çalışan üst düzey araştırmacı Evan Hubinger, teknolojinin önümüzdeki on yıl içinde insanlığı yok etme ihtimalinin yüzde 10'un üzerinde olduğunu ve şirketin güvenliği garanti eden bir planı bulunmadığını belirtti. Hubinger'ın açıklaması, araştırmacı Jacob Coxon'ın Anthropic ve OpenAI'ın sorumsuzca davrandığını belirterek istifa etmesinin ardından geldi. Ayrıca Financial Times'a yansıyan bilgilere göre Anthropic, yeni modeli Mythos 5.1'i İngiltere Yapay Zeka Güvenlik Enstitüsünün testine sunmayı reddetti.

Siyasetçiler teknoloji şirketlerinin denetlenmesi için uluslararası adımlar atılması gerektiğini vurguladı. İngiliz Milletvekili Darren Jones hükümete ve uluslararası kuruluşlara çok uluslu bir anlaşma çağrısı yaparken ABD'li Senatör Bernie Sanders Kongre'nin hızla harekete geçmesini talep etti. Tartışmalar sürerken bazı akademisyenler ise kıyamet senaryolarının abartıldığını, asıl odaklanılması gereken konuların çevreye etkiler, dezenformasyon ve istihdam kayıpları olduğunu ifade etti.