Yapay zeka modelleri yapay sinir ağı ağırlıklarını doğrudan düzenliyor
Öne çıkanlar
- Astra, Qwen3.5-0.8B modelinin ağırlıklarının yüzde 0,016'sını düzenleyerek MATH-500 skorunu yüzde 7,9'dan yüzde 48,1'e çıkardı.
- Model, sıfırdan yazdığı ağlarla 100 milyon adım PPO ile eğitilen pekiştirmeli öğrenme modellerini geride bıraktı.
- Ağırlık düzenlemeleri var olan yeteneklerin önündeki döngü engellerini çözerken modellerin sahip olmadığı temel akıl yürütme becerilerini ka
Araştırmacılar, öncü büyük dil modellerinin yapay sinir ağı ağırlıklarını doğrudan okuyup yazabildiğini ortaya koydu. Ağırlık uzayı programlama adı verilen bu yöntemde GPT-6 Astra, geleneksel optimizasyon algoritmaları veya gradyan inişi kullanmadan ağların çalışma amacını ağırlıklardan tespit etti. Model, sıfırdan küçük oyun oynama ağları yazdı ve PPO ile 100 milyon adım eğitilen ağlardan daha yüksek başarım sergiledi.
Deneylerde Qwen3.5-0.8B modelinde matematiksel akıl yürütme döngülerine yol açan sorun incelendi. Astra, modelin 800 milyon ağırlığından sadece 131 bin 72 adedini yani yüzde 0,016'sını doğrudan değiştirerek döngü hatasını giderdi. Bu müdahale sonucunda Qwen modelinin MATH-500 testindeki başarı oranı yüzde 7,9 seviyesinden yüzde 48,1'e, GSM8K skoru ise yüzde 13,8'den yüzde 67,1'e yükseldi. Benzer şekilde talimat takip testi IFEval skoru da yaklaşık üç kat arttı.
Yöntemin sınırlarını da inceleyen araştırmacılar, döngü hatası bulunmayan Gemma 3 270M modelinde ağırlık düzenlemelerinin anlamlı bir başarı artışı sağlamadığını belirledi. Astra temel akıl yürütme yetersizliklerini düzeltemezken, var olan ancak döngüler nedeniyle tamamlanamayan yanıtların önündeki engelleri kaldırdı. Araştırma ekibi, tüm deney kayıtlarını ve değerlendirme verilerini açık kaynaklı olarak paylaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.