Tensordyne logaritma tabanlı yapay zeka çipi geliştiriyor
Öne çıkanlar
- Tensordyne, çarpma işlemlerini toplamaya çevirmek için ikili tabanda logaritmik sayı sistemi kullanıyor.
- Logaritmik çarpanların kapladığı alan küçüldüğü için yonga üzerine daha fazla SRAM belleği sığıyor.
- Sayısal kararsızlık riskleri nedeniyle mimari eğitim yerine sadece çıkarım iş yüklerine odaklanıyor.
Tensordyne, geleneksel kayan nokta hesaplamaları yerine logaritmik sayı sistemini kullanan yeni bir yapay zeka çip mimarisi geliştirdi. Çoğu çip üreticisi bellek hiyerarşisine ve bant genişliğine odaklanırken şirket, logaritma çarpım kuralını uygulayarak çarpma işlemlerini toplama işlemine dönüştürüyor. Şirket, logaritma tabanlı sistemlerde zorlaşan toplama işlemlerini özel bir matematiksel yaklaşımla çözdüğünü ve PyTorch modellerini bu formata uyarlayabildiğini duyurdu.
Söz konusu logaritmik format, modellerin yeniden eğitilmesini gerektirmeden çalıştırılabilmesi için özel yazılımlara ve derleyicilere ihtiyaç duyuyor. Sayısal hassasiyet gereksinimleri nedeniyle eğitim iş yükleri yerine doğrudan çıkarım süreçlerini hedefleyen mimari, GPU çekirdeklerine göre optimize edilmiş kodların taşınmasında ek iş yükü barındırıyor. Şirket, geliştiricilerin bu yeni biçime geçişini kolaylaştırmak amacıyla yapay zeka destekli araçlar sunacağını belirtiyor.
Üretken yapay zeka modelleri genellikle bellek bant genişliği sınırına takılsa da toplu sorgu işleme yöntemi aritmetik yoğunluğu artırarak Tensordyne'in mimarisini avantajlı kılıyor. Logaritmik çarpanların yonga üzerinde daha az fiziksel alan kaplaması, kalıp içerisine daha fazla SRAM bellek yerleştirilmesine olanak tanıyor. Şirket bu sayede bellek erişim ihtiyacını düşürerek yüksek verimlilik sunmayı amaçlıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.