Geoffrey Hinton yapay zekanın varoluşsal riskleri konusunda uyardı

Modern yapay zekanın öncülerinden kabul edilen Geoffrey Hinton, yayımlanan röportajında yapay zeka modellerinin insanlık için varoluşsal bir tehdit oluşturduğu yönündeki uyarılarını yineledi. Hinton, sektörün kendi kendini denetleyebileceği fikrini reddederek bu durumu tütün veya petrol şirketlerinin kendi güvenlik kurallarını belirlemesine benzetti. Teknolojinin insan denetiminden çıkabileceğini vurgulayan Hinton, potansiyel tehlikelerin göz ardı edilmesinin felakete yol açabileceğini ifade etti.

Nvidia Üst Yöneticisi Jensen Huang geçtiğimiz günlerde Hinton'ın öngörülerini eleştirerek bu tahminlerin bilimsel dayanağı bulunmadığını öne sürdü. Hinton ise eleştirilere yanıt vererek kesin bir tahminde bulunmadığını, ciddi bir kaza riski taşıyan bir araca binilmeyeceği gibi yapay zekanın taşıdığı risk oranının da görmezden gelinemeyeceğini belirtti. Sistemlerin insan benzeri anlama kapasitesine ulaştığını kaydeden bilim insanı, kontrol kaybı durumunda insanlığın ikinci bir şansı olmayacağını dile getirdi.

Hinton ayrıca teknoloji sektörünü yönlendiren bazı yatırımcı ve yöneticilerin demokrasiye inanmadığını ve kendi güçlerini pekiştirmek için hareket ettiğini söyledi. İnsanlığın Dünya merkezli evren anlayışının yıkılması ve evrim teorisi gibi tarihsel kırılmaların ardından şimdi de yeni bir zeki varlık türüyle yüzleştiğini belirten Hinton, kontrolü elden bırakmamak adına insanların kendi türünün çıkarlarını önceliklendirmesi gerektiğini sözlerine ekledi.