Google TorchTPU projesini açık kaynak olarak yayımladı
Öne çıkanlar
- Google, TPU donanımlarında yerel PyTorch desteği sunan TorchTPU arka ucunu açık kaynak yaptı.
- Proje, özel ATen çekirdekleri ve XLA hesaplamaları için derleme önbelleği içeriyor.
- Llama ve Qwen dahil olmak üzere farklı modeller için dağıtık eğitim ve torch.compile desteği bulunuyor.
Google, Tensor İşlem Birimleri (TPU) üzerinde yerel PyTorch desteği sunan TorchTPU projesini açık kaynak olarak kullanıma sundu. GitHub üzerinden paylaşılan proje, geliştiricilerin PyTorch modellerini ve tensör işlemlerini doğrudan TPU donanımlarında çalıştırmasını sağlıyor. Sistem, XLA hesaplamalarını optimize eden derleme önbelleği ve özel ATen çekirdekleri barındırıyor.
Yeni arka uç, dağıtık eğitim süreçlerinde hem veri paralelliğini hem de tensör paralelliğini destekliyor. Proje ayrıca grafik modunda yürütme için PyTorch'un torch.compile altyapısıyla entegre çalışıyor. Depoda Llama, Qwen, ResNet, DLRM ve UNet gibi popüler yapay zeka modelleri için hazır örnekler ve kıyaslama araçları bulunuyor.
Python 3.11 ve üzeri sürümleri destekleyen TorchTPU, Apache 2.0 lisansı altında geliştirilmeye devam ediyor. Paketin 0.2.0 sürümü PyPI üzerinden yayımlanırken, kaynak koddan kurulumlar ve bağımlılık yönetimi için Bazel derleme sistemi kullanılıyor. Dokümantasyon tarafında ise kullanıcıların TPU sanal makinelerinde çalıştırabileceği Marimo tabanlı etkileşimli not defterleri yer alıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.