Reflection 501 milyar parametreli açık ağırlıklı yapay zeka modeli Beam'i tanıttı
Öne çıkanlar
- Beam, 501 milyar toplam parametresine karşılık yalnızca 23 milyar aktif parametreyle çalışıyor.
- Takviyeli öğrenme sürecinde 10,5 bin NVIDIA GB300 GPU ile 100 milyondan fazla çıktı üretildi.
- Modelin ağırlıkları bu ay içinde açık kaynaklı Apache 2.0 lisansıyla kullanıma sunulacak.
Yapay zeka araştırma şirketi Reflection, 501 milyar toplam ve 23 milyar aktif parametreye sahip açık ağırlıklı yeni modeli Beam'i duyurdu. Kodlama, akıl yürütme ve otonom yazılım ajanları hedeflenerek tasarlanan sparse Uzmanlar Karması (MoE) mimarisindeki model, 23,8 trilyon yüksek kaliteli jeton ile ön eğitime tabi tutuldu. Şirket, Beam'in ağırlıklarının, teknik raporunun ve geliştirici araçlarının bu ay içinde Apache 2.0 lisansı altında yayımlanacağını açıkladı.
Modelin geliştirme sürecinde geniş ölçekli takviyeli öğrenme (RL) altyapısı kritik bir rol oynadı. Reflection mühendisleri, dört haftalık eğitim sürecinde 10,5 bin NVIDIA GB300 GPU kullanarak 100 milyondan fazla çıktı ve yaklaşık 1,3 milyar korumalı alan üretti. Eşzamansız politika gradyanları ve dinamik paketleme gibi algoritmalar sayesinde donanım kullanım verimliliği korunurken, akıl yürütme kıyaslamalarında GLM-5.2 ve Qwen 3.8-Max gibi büyük modellere kıyasla üç ila dört kat daha az çıkarım işlem gücüyle rekabetçi sonuçlar elde edildi.
Ara eğitim aşamasında bağlam uzunluğu 1 milyon jetona çıkarılan Beam için özel güvenlik ve uyumluluk protokolleri de devreye alındı. Çok öğretmenli politika içi damıtma (MOPD) yöntemiyle eğitilen modelde halüsinasyonlar ve gereksiz yanıt uzunlukları kontrol altına alındı. Son kırmızı takım testlerinden geçen model, sınırlı kullanıcı kitlesi için erken erişime açıldı ve genel dağıtım sürecinin yakında tamamlanacağı bildirildi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.