Astra modelinin ağırlıkları okuyarak modelleri geliştirdiği iddiası tartışma yarattı
Öne çıkanlar
- Ham ağırlıkları doğrudan okuma yöntemi sadece 172 bin parametreden küçük ağlarda denendi.
- Qwen3.5 üzerindeki matematik iyileştirmesi harici Python kodu ve 50 deneme turuyla yapıldı.
- Astra'nın başarısı ağırlıkları sezgisel anlamasından değil kodlama becerisinden kaynaklanıyor.
GPT-6 Astra modelinin ham ağırlıkları doğrudan okuyup düzenleyerek diğer yapay zeka modellerini geliştirdiği yönündeki iddiaların metodolojik olarak yanıltıcı olduğu bildirildi. Yayımlanan teknik değerlendirmede, iddiaya temel oluşturan deneylerin tek bir sihirbazlık numarası gibi sunulduğu ancak arka planda çok farklı yöntemlerin bir arada kullanıldığı belirtildi. Orijinal yayında Astra'nın hiçbir geri bildirim almadan veya gradyan kullanmadan ağırlıkları düzenlediği öne sürülmüştü.
Teknik analiz tablosuna göre ham kayan nokta ağırlıklarını doğrudan okuma işlemi yalnızca 17 bin ile 172 bin parametrelik çok küçük ağlarda uygulandı. Qwen3.5-0.8B gibi dil modellerini içeren deneylerde ise Astra'nın doğrudan ham ağırlıklara bakmadığı, Python kodu çalıştırdığı ve modeli 50 farklı alıştırma grubu üzerinde koşturduğu tespit edildi. Bu durumun doğrudan ağırlık anlama yeteneğinden ziyade bir makine öğrenimi mühendisi gibi kod yazma becerisini gösterdiği kaydedildi.
Değerlendirmede, sıfırdan küçük ağ ağırlığı yazma ile büyük modelleri harici kod ve test döngüleriyle iyileştirme süreçlerinin aynı potada eritilmesinin yapay bir algı oluşturduğu vurgulandı. Astra'nın Python destekli mühendislik görevlerini yerine getirmesinin kendi başına başarılı bir aşama olduğu ancak bunun doğrudan ağırlık okuma kabiliyeti olarak pazarlanamayacağı ifade edildi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.