Ana Sayfa

Mac Studio Kümesi ile 1.5 TB Bellek: Thunderbolt 5 Üzerinden RDMA ve Yapay Zeka Potansiyeli

1 dk okuma

Apple, macOS 26.2'deki yeni bir özellik olan Thunderbolt 5 üzerinden RDMA'yı test etmek amacıyla Mac Studio kümelerine erişim sağladı. Bu teknoloji, birden fazla Mac'in tek bir büyük bellek havuzu gibi çalışmasını sağlayarak özellikle devasa yapay zeka modelleri gibi yoğun bellek gerektiren uygulamaların performansını önemli ölçüde artırıyor. Testler, 1.5 TB birleşik belleğe sahip bir Mac Studio kümesi üzerinde açık kaynaklı özel yapay zeka kümeleme aracı Exo 1.0 kullanılarak gerçekleştirildi. Bu kurulumun yaklaşık 40.000 dolar maliyeti olduğu belirtiliyor, ancak Apple bu cihazları test için ödünç verdi.

Yazar, Apple'ın yüksek performanslı bilgi işlem (HPC) alanındaki geçmişini Xserve ve Xgrid ile hatırlatırken, M3 Ultra Mac Studio'nun yerel yapay zeka modellerini çalıştırmak için ideal bir nokta olduğunu vurguluyor. RDMA desteği sayesinde bellek erişim gecikmesi 300 mikrosaniyeden 50 mikrosaniyenin altına düşerek, özellikle büyük modellerin çalıştırılmasında kümelemenin performansa katkısı belirginleşiyor. Bu sistemler, yaratıcı uygulamalar ve küçük ölçekli bilimsel hesaplamalar için de yeterli performansı sunarken, 250 watt'ın altında enerji tüketimiyle sessiz çalışıyor.

Nvidia'nın DGX Spark ve AMD'nin AI Max+ 395 gibi rakiplerinin maksimum 128 GB bellek sunduğu düşünüldüğünde, Mac Studio kümesinin 1.5 TB birleşik bellek kapasitesi dikkat çekiyor. Yazar, DeskPi tarafından sağlanan mini raf sistemi sayesinde Mac Studio'ların fiziksel olarak nasıl konumlandırıldığını ve güç düğmesi gibi pratik zorlukları da aktarıyor. Bu testler, Apple'ın yapay zeka ve yüksek performanslı bilgi işlem alanındaki potansiyelini gözler önüne seriyor.

İçgörü

Apple'ın Thunderbolt 5 üzerinden RDMA teknolojisiyle Mac Studio kümelerini yüksek performanslı yapay zeka iş yükleri için güçlü bir platform haline getirme potansiyeli dikkat çekiyor.

Kaynak