TornadoVM 7 Java uygulamalarına GPU hızlandırması getirdi
Öne çıkanlar
- TornadoVM 7, JNI yerine modern Foreign Function & Memory (FFM) API mimarisine geçti.
- Nvidia cuBLAS, CUTLASS kütüphaneleri ve çoklu GPU kullanımı doğrudan destekleniyor.
- Tek bir JAR dosyası olarak çalışan jitLLM v2.0 yapay zeka çıkarım motoru duyuruldu.
Java için açık kaynaklı heterojen programlama çatısı TornadoVM, sürüm 7.3 seviyesine ulaştı. Yeni sürüm, standart Java Sanal Makinesi (JVM) kurulumlarını değiştirmeden çok çekirdekli işlemciler ve grafik işlemciler üzerinde hızlandırma sağlıyor. OpenJDK, GraalVM, Temurin ve Zulu gibi ana akım JDK dağıtımlarıyla uyumlu çalışan sistem, modern bulut ve makine öğrenimi iş yüklerini donanım hızlandırıcılara aktarıyor.
Yeni mimaride Java Native Interface (JNI) yerine Foreign Function & Memory (FFM) API kullanılmaya başlandı ve deneysel JVMCI bağımlılığı tamamen kaldırıldı. Derleyici üstverilerini yansıma, ASM ve Unsafe katmanı üzerinden toplayan çatı, JDK 21, 25, 26 ve 27 sürümlerinde tek tip bir yapı sunuyor. Ayrıca Nvidia ekosistemiyle entegrasyon derinleştirilerek cuTile programlama modeli, cuBLAS ve CUTLASS kütüphane çağrıları ile çoklu GPU desteği sisteme eklendi.
Geliştirici ekip, sürümle birlikte TornadoVM altyapısını kullanan yapay zeka çıkarım motoru jitLLM v2.0 sürümünü de tanıttı. Tek bir JAR dosyası olarak dağıtılan çıkarım motoru, performans açısından llama.cpp ve Ollama alternatifleriyle doğrudan rekabet ediyor. Projenin kurucu ekibi tarafından hayata geçirilen Beestream.ai adlı girişim, TornadoVM ve jitLLM çözümlerini ticarileştirmeyi hedefliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.