Wax, "yapay zeka belleği için SQLite" olarak tanımlanan, yapay zeka uygulamalarına bellek ekleme sürecini basitleştirmeyi hedefleyen yenilikçi bir araçtır. Geleneksel RAG (Retrieval Augmented Generation) yığınlarının karmaşıklığını ortadan kaldırarak, tüm RAG işlevselliğini tek bir .mv2s dosyasına sığdırır. Bu yaklaşım, geliştiricilerin Docker, vektör veritabanları veya karmaşık ağ çağrıları gibi altyapı bileşenleriyle uğraşmak zorunda kalmadan, doğrudan cihaz üzerinde hızlı ve özel bir bellek çözümü oluşturmasını sağlar.
Wax'ın temel avantajları arasında yüksek performans, dayanıklılık ve taşınabilirlik bulunur. Özellikle Apple Silicon çiplerinde Metal GPU kullanarak milisaniyenin altında vektör aramaları gerçekleştirebilmesiyle dikkat çeker. Bu, 10.000 belge arasında bile 0.84ms gibi etkileyici bir hız sunar. Ayrıca, tüm veriler cihaz üzerinde kaldığı için %100 gizlilik sağlar ve ağ çağrısı yapmaz. Dosya tabanlı yapısı sayesinde kolayca taşınabilir, yedeklenebilir ve dağıtılabilir. Kill -9 ve güç kaybına karşı dayanıklı olması da veri bütünlüğünü garantiler.
Geleneksel RAG mimarilerinde genellikle birden fazla servis (ChromaDB, PostgreSQL, Redis, Elasticsearch, Docker gibi) gereklidirken, Wax bu karmaşık yapıyı tek bir dosya ile değiştirir. Bu, geliştirme sürecini hızlandırır, altyapı maliyetlerini düşürür ve yapay zeka uygulamalarına bellek eklemeyi çok daha erişilebilir hale getirir. Kullanıcı dostu API'si sayesinde "hatırlama" ve "geri çağırma" işlemleri kolayca entegre edilebilir, böylece yapay zeka modelleri daha bağlamsal ve kişiselleştirilmiş yanıtlar üretebilir.
Yapay zeka uygulamaları için RAG altyapısını tek bir dosya ile basitleştirerek geliştirme süreçlerini hızlandırıyor ve on-device yapay zeka yeteneklerini artırıyor.