Modal, soğuk başlangıç gecikmesini takıntı haline getirmiş bir platform olarak, bu alandaki yeniliklerine bir yenisini ekledi: GPU bellek anlık görüntüleri. Daha önce CPU bellek anlık görüntüleri ile başlangıç sürelerini yarıdan fazla azaltmayı başaran şirket, şimdi aynı "checkpoint/restore" (kontrol noktası/geri yükleme) sihrini GPU hızlandırmalı iş yüklerine taşıyor. Bu, özellikle yapay zeka ve makine öğrenimi gibi GPU yoğun uygulamalar için devrim niteliğinde bir gelişme sunuyor.
Modal, soğuk başlangıç sorununu üç ana yolla ele alıyor: özel bir dosya sistemi, CPU bellek anlık görüntüleri ve şimdi de GPU bellek anlık görüntüleri. Özel dosya sistemi, popüler dosyaları çalışan bellekte önbelleğe alarak performansı 3-5 kat artırıyor. CPU bellek anlık görüntüleri ise bir fonksiyonun girdi almadan hemen önceki bellek durumunu dondurup kaydederek, her soğuk başlangıçta dosyaları yeniden okuma ve programı bellekte yeniden oluşturma ihtiyacını ortadan kaldırıyor. Bu sayede programlar donmuş durumdan başlayarak önemli ölçüde hız kazanıyor.
Ancak, CPU bellek anlık görüntülerinin GPU iş yükleri için önemli bir sınırlaması vardı: GPU durumu anlık görüntüye dahil edilemiyordu. Bu durum, model ağırlıklarının CPU'dan GPU'ya manuel olarak kopyalanması gibi ek adımlar gerektiriyordu. Modal'ın yeni GPU bellek anlık görüntüleri, NVIDIA GPU durumunu da anlık görüntüye dahil ederek bu sorunu çözüyor. Artık GPU belleği, dosya tanımlayıcıları ve CUDA oturumları da geri yükleme sonrası otomatik olarak hazır hale geliyor. Bu, geliştiricilerin çok aşamalı yaklaşımlar benimsemesine gerek kalmadan, GPU hızlandırmalı uygulamaların çok daha hızlı ve sorunsuz bir şekilde başlamasını sağlıyor, böylece geliştirme sürecini basitleştirirken performansı maksimize ediyor.
GPU bellek anlık görüntüleri, yapay zeka ve makine öğrenimi gibi GPU yoğun iş yüklerinin başlangıç sürelerini dramatik şekilde azaltarak geliştirme süreçlerini basitleştiriyor ve performansı artırıyor.