Perplexity ve Nvidia yerel yapay zeka aracını duyurdu
Öne çıkanlar
- Portable Computer, en az 24 GB VRAM'e sahip RTX ekran kartlı sistemlerde yerel olarak çalışıyor.
- Cihaz üzerinde tamamlanan yapay zeka işlemleri için herhangi bir token veya kredi ücreti alınmıyor.
- Sistem karmaşık görevlerde kullanıcı onayı alarak buluttaki büyük dil modellerinden destek alabiliyor.
Perplexity, Nvidia ile geliştirdiği ve kullanıcıların kendi donanımlarında çalışan Portable Computer adlı yapay zeka aracı platformunu kullanıma sundu. Sistem, Nvidia DGX Spark masaüstü süper bilgisayarları ile en az 24 GB VRAM kapasiteli Nvidia RTX ekran kartına sahip Linux cihazlarda çalışıyor. Kullanıcıların verilerini buluta göndermeden cihaz üzerinde işleyen yazılım, yerel görevlerde token veya abonelik kredisi tüketmiyor.
Platform; çıkarım motoru, güvenlik yalıtım alanı, araçlar ve model altyapısını tek bir paket halinde sunuyor. İlk aşamada 27 milyar parametreli Qwen ve PPLX modellerini destekleyen sistem, yerel modelin yetersiz kaldığı karmaşık adımlarda kullanıcı onayıyla buluttaki gelişmiş modellere başvurabiliyor. Google Drive, Gmail ve GitHub bağlantılarını destekleyen araç, hassas verilerin cihaz dışına çıkmasını engelleyen güvenlik filtreleri içeriyor.
Portable Computer, Linux platformundaki kurumsal ve ücretli Perplexity abonelerine açıldı. Windows desteğinin eylül ayında sunulacağı açıklandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.