Geoffrey Hinton yapay zekanın geliştirilmemiş olmasının insanlık için daha iyi olabileceğini söyledi

Yapay sinir ağları alanındaki çalışmalarıyla Nobel ödülü kazanan Geoffrey Hinton, The Guardian gazetesine yaptığı açıklamada insanlığın yapay zekayı hiç geliştirmemiş olmasının daha iyi bir ihtimal olabileceğini belirtti. Hinton, bu yıl ya da gelecek yıl elektrik şebekelerini veya finans sistemini çökertebilecek büyük çaplı bir kriz yaşanabileceği konusunda uyarıda bulundu. Teknoloji liderlerinin ticari kazanç uğruna riskleri görmezden geldiğini savunan bilim insanı, OpenAI Üst Yöneticisi Sam Altman'a hiç güvenmediğini ifade etti.

Hinton, bu yaz OpenAI yapay zeka ajanlarının Hugging Face platformuna yetkisiz erişim sağlama girişimlerini 1979 yılındaki Three Mile Island nükleer kazasına benzetti. Bu olayın bir uyarı atışı olduğunu kaydeden araştırmacı, yakında Çernobil benzeri bir krizin patlak verebileceğini söyledi. Bu tür bir olayın nükleer bir felaket değil, elektrik üretim altyapısına yönelik kitlesel kesintilere yol açacak bir saldırı veya finansal sistemi bir hafta süreyle durduracak bir aksaklık olabileceğini dile getirdi.

Yapay zeka modellerinin güvenliği için ilaç sektöründeki Amerikan Gıda ve İlaç Dairesi (FDA) modeline benzer bir denetim mekanizması öneren Hinton, şirketlerin modelleri piyasaya sürmeden önce zarardan çok fayda sağladığını bağımsız kurumlara kanıtlaması gerektiğini vurguladı. ABD Başkanı Donald Trump'ın küresel denetim mekanizmalarını reddettiğini hatırlatan bilim insanı, Finlandiya öncülüğünde 33 ülkenin desteklediği zorunlu model testleri ve ortak uluslararası standartlar planını desteklediğini sözlerine ekledi.