Sebastian Raschka akıl yürütme modelleri geliştirmek için video serisi yayımladı
Öne çıkanlar
- Sekiz bölümden oluşan 11 saatlik eğitim serisi Python ve PyTorch ile geliştirildi.
- Eğitim sürecinde temel model olarak Qwen3 0.6B mimarisi kullanıldı.
- Çalışmada GRPO tabanlı takviyeli öğrenme ve DeepSeek R1 ile model damıtma teknikleri uygulandı.
Yapay zeka araştırmacısı Sebastian Raschka, büyük dil modellerinde akıl yürütme mekanizmalarını sıfırdan inşa etmeyi öğreten sekiz bölümlük ücretsiz bir video serisi yayımladı. Toplam 11 saatlik içerikten oluşan seri, yazarın Build a Reasoning Model (From Scratch) adlı kitabındaki uygulamaları temel alıyor. Çalışma kapsamında araştırmacılar, önceden eğitilmiş küçük bir model üzerinden çıkarım zamanı ölçekleme, takviyeli öğrenme ve model damıtma adımlarını doğrudan Python ve PyTorch kullanarak kodluyor.
Eğitim serisinde temel model olarak Qwen3 0.6B kullanıldı. Katılımcılar ilk aşamalarda metin üretimi, anahtar-değer önbelleğe alma ve MATH-500 veri kümesi üzerinde matematiksel doğrulayıcı geliştirme süreçlerini uyguluyor. Programın ilerleyen bölümlerinde ise kendi kendini düzeltme döngüleri, Grup Göreli Politika Optimizasyonu (GRPO) tabanlı doğrulanabilir ödüllü takviyeli öğrenme (RLVR) ve DeepSeek R1 gibi güçlü modellerden bilgi damıtma teknikleri adım adım hayata geçiriliyor.
Raschka, akıl yürütme modellerinin modern yapay zeka ajanlarının temel motoru olduğunu ve güncel modellerin çoğunun bu mimariyi kullandığını belirtti. Çalışmadaki ilk çıkarım ve değerlendirme testlerinin merkezi işlem birimi (CPU) üzerinde çalışabildiği, ileri düzey eğitim aşamaları için ise grafik işlem biriminin (GPU) gerektiği aktarıldı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.