DeepSeek ve Huawei Ascend ekosistemini ortak optimize ediyor
Öne çıkanlar
- DeepSeek, aralarında TileLang ve DeepEP'nin de bulunduğu 6 kritik açık kaynak deposuna Ascend 950 desteği ekledi.
- Ascend 950PR üzerinde standart matris işlemlerinde teorik performans tavanının yüzde 99,7'sine ulaşıldı.
- TileLang üzerindeki AutoSchedule özelliği, işlemci üzerindeki veri transferlerini eşzamanlayarak yürütme süresini yüzde 40 kısalttı.
- vLLM-Ascend yazılımı x86 ana işlemcili sunucularda eksik bağımlılıklar ve uyumluluk sorunları barındırıyor.
DeepSeek, Huawei Ascend hızlandırıcıları için TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA ve DeepSelect depolarında yerel donanım desteği yayımladı. İş birliği, yapay zeka işlemcisi tedarikinde zorluk yaşayan DeepSeek ile gelişmiş modeller üzerinde denenmiş bir yazılım ekosistemine ihtiyaç duyan Huawei'nin yetkinliklerini bir araya getirdi. Ortak geliştirme süreci, Çin içi yerli çip ve yapay zeka altyapısının Nvidia bağımlılığını azaltma stratejisinin parçası olarak öne çıktı.
Ascend 950PR donanımı üzerinde yapılan testler, Huawei'nin matris çarpımı (GEMM) işlemlerinde teorik tavanın yüzde 99,7'sine ulaşabildiğini gösterdi. Donanım seviyesindeki kusurlar ve verim kayıpları nedeniyle Huawei'nin hem işlem çekirdeklerini hem de HBM belleklerini farklı SKU seviyelerine ayırdığı tespit edildi. DeepSeek, TileLang derleyicisi ile Cube ve Vector çekirdekleri arasındaki koordinasyonu optimize ederek küçük boyutlu işlemlerde yürütme sürelerini yüzde 40'a varan oranda kısalttı.
İki şirketin yazılım ve donanımı birlikte tasarlama süreci, FlashMLA bellek yerleşimi ve DeepEP iletişim katmanında doğrudan görüldü. Ascend mimarisinin getirdiği kısıtlar sebebiyle dikkat mekanizması ve veri transferi yeniden yapılandırıldı. DeepSeek-V4.1-Flash model profilinde çekirdek birleştirmeleri ve spekülatif kod çözme adımları uygulandı. Ancak x86 mimarili sunucularda yaşanan uyumluluk sorunları, ekosistemin şimdilik sınırlı sayıda özelleştirilmiş kurulumda sorunsuz çalıştığını ortaya koydu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.