Yapay zeka uzmanlarının felaket senaryoları alan sınırlarını aşıyor
Öne çıkanlar
- Geoffrey Hinton'ın 2016'daki radyoloji öngörüsü alan uzmanlığının sınırlarını aşan iddialara örnek gösterildi.
- Katastrofik risklerin değerlendirilmesinde tek bir teknik alan yerine ilgili disiplinlerin uzmanlarına başvurulması gerekiyor.
- RAND Corporation risk raporunda tahmin karmaşasını önlemek amacıyla yapay zeka uzmanları yerine alan uzmanlarıyla çalıştı.
Mühendis Bryan Cantrill, Nvidia Üst Yöneticisi Jensen Huang ile gazeteci Ezra Klein arasındaki röportajı değerlendirerek yapay zeka felaket tellallığı tartışmalarına yeni bir bakış getirdi. Cantrill, yapay zekanın varoluşsal bir tehdit oluşturduğunu öne süren öncü araştırmacıların kendi teknik uzmanlık alanlarının çok ötesinde iddialarda bulunduğunu belirtti. Röportajda Klein'ın Geoffrey Hinton gibi isimlerin otoritesine gereğinden fazla güvendiği ve bu durumun yanıltıcı uzmanlık yarattığı kaydedildi.
Hinton'ın 2016 yılında radyoloji mesleğinin beş yıl içinde yok olacağını öne sürdüğü hatalı tahminini hatırlatan Cantrill, yapay zeka araştırmacılarının karmaşık sistemlerin doğasını tam kavrayamadığını ifade etti. Görüntü işlemedeki başarının bir hekimin klinik görevlerini ortadan kaldırmadığını, aksine hekimlere destek olduğunu vurguladı. Benzer şekilde siber güvenlik, biyoloji veya nükleer sistemler gibi fiziksel dünyaya uzanan risk senaryolarında doğrudan ilgili alanların uzmanlarına başvurulması gerektiği açıklandı.
Cantrill, RAND Corporation tarafından yayımlanan yapay zeka risk analizini örnek göstererek felaket olasılıklarının çok disiplinli yaklaşımlarla incelenmesini önerdi. Söz konusu raporda araştırmacılar, geleceğe yönelik belirsiz tahminlerden kaçınmak için doğrudan yapay zeka uzmanları yerine nükleer silah, biyoteknoloji ve risk analizi uzmanlarıyla görüştü. Tek bir alandaki teknik bilginin karmaşık nedensellik zincirlerini açıklamaya yetmediği savunuldu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.