Yapay zeka araştırmacıları özyinelemeli öz gelişimi tartıştı
Öne çıkanlar
- Uzmanlar, açıkça tanımlanmış hedeflerde pekiştirmeli öğrenmenin 10 kata kadar hızlanma sağladığını belirtti.
- Araştırmacılar, simülasyon başarılarının gerçek dünyaya uyarlanmasında süreklilik sorunları yaşandığını vurguladı.
- John Schulman, modeller ne kadar yetenekli olursa olsun hedef ve hizalama tanımının insana kalacağını kaydetti.
Dwarkesh Patel'in podcast programına katılan yapay zeka araştırmacıları John Schulman, Beren Millidge ve Charlie O'Neill, modellerin kendi kendini geliştirmesi ve genel yapay zekaya giden yoldaki teknik engelleri değerlendirdi. Thinking Machines Başbilim insanı Schulman, Zyphra CTO'su Millidge ve Baseten Model Eğitimi Yöneticisi O'Neill, 2036 yılına kadar süper zekanın ortaya çıkmasını engelleyebilecek faktörleri ele aldı. Uzmanlar, mevcut derin öğrenme mimarisinin ve pekiştirmeli öğrenmenin sınırlarını masaya yatırdı.
Araştırmacılar, mevcut transformatör mimarisi ile pekiştirmeli öğrenmenin açık hedefler barındıran ortamlarda çok iyi sonuçlar verdiğini ancak paradigma değiştiren keşifler üretmekte yetersiz kalabileceğini belirtti. Millidge, yapay zekanın kapalı simülasyon ve kıyaslama testlerinde çok başarılı olsa bile gerçek dünyaya genelleme yapma konusunda engellerle karşılaşabileceğini kaydetti. O'Neill ise Moore Yasası'nda olduğu gibi pekiştirmeli öğrenme modellerinin de belirli bir noktadan sonra azalan getiri eğrisine girebileceğini dile getirdi.
Araştırma süreçlerinin tamamen yapay zekaya devredilmesi durumunda insanlara kalacak son görevin hedef belirleme olacağı vurgulandı. Schulman, model davranışlarının ne yönde olması gerektiğinin belirlenmesi ve hizalama çalışmalarının insan gözetimi gerektirmeye devam edeceğini söyledi. Katılımcılar, modellerin deneyleri optimize etmede hız kazandıracağını ancak yeni bilimsel hedefler icat etme konusunda insanların hala kritik bir avantaja sahip olduğunu savundu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.