11 haber bu etiketle işaretlenmiş
Bağımsız bir geliştirici, yüksek donanım gereksinimleriyle bilinen büyük dil modeli ön eğitimini 6 GB grafik belleğine sahip dizüstü bilgisayarda çalıştırmayı başardı. Standart yöntemlerle en az 24…
Araştırmacılar, derin öğrenme modellerinin eğitim sırasında optimizasyon kurallarını değiştirebilen OPAL adlı reaktif bir optimizer geliştirdi. OPAL, eğitim dinamiklerini izleyen bir ajan kullanıyor…
Araştırmacılar, PyTorch, JAX ve TensorFlow gibi derin öğrenme kütüphanelerinde yaygın olarak kullanılan softmax, log-softmax ve çapraz entropi fonksiyonlarında iki sayısal kararsızlık hatası tespit…
Yapay sinir ağlarını eğitmek için kullanılan geri yayılım algoritmasının türevleri neden geriye doğru bir geçişle hesapladığı matematiksel temellerle incelendi. Sinir ağları bileşke fonksiyonlar…
Araştırmacılar, birden fazla büyük dil modelinin metin dizileri üretmeden doğrudan anlamsal veri paylaşmasını sağlayan Cache-to-Cache (C2C) yöntemini duyurdu. Mevcut çoklu model mimarileri…
Sakana AI araştırmacıları, yapay sinir ağlarını klasik geri yayılım algoritmasına ihtiyaç duymadan eğitebilen PC-ALM adlı yeni bir yöntemi duyurdu. Geliştirilen yaklaşım, geleneksel derin öğrenmenin…
Dwarkesh Patel'in podcast programına katılan yapay zeka araştırmacıları John Schulman, Beren Millidge ve Charlie O'Neill, modellerin kendi kendini geliştirmesi ve genel yapay zekaya giden yoldaki…
Araştırmacılar, derin öğrenmede çıkarım aşamasında yinelemeli durum güncellemeleriyle daha uzun süre düşünmeyi sağlayan 'looped flows' yöntemini geliştirdi. Mevcut döngüsel modeller, eğitim sırasında…
Z.ai tarafından geliştirilen GLM-5.3-Flash, standart dikkat mekanizmasının getirdiği yüksek hesaplama maliyetlerini aşmak amacıyla hibrit bir katman yapısıyla tasarlandı. Modelin sahip olduğu 45…
Northeastern Üniversitesi araştırmacısı David Bau, yapay zeka alanında binlerce çalışma arasından öne çıkan temel akademik makaleleri tarihsel bir liste halinde bir araya getirdi. 1943 yılında…
Açık kaynak topluluğu tarafından yürütülen modded-nanogpt projesi, GPT-2 seviyesindeki bir dil modelinin eğitim süresini 8 adet NVIDIA H100 GPU üzerinde 75 saniyenin altına düşürdü. Andrej…
Tüm haberler yüklendi