Sandbox adlı proje, yapay zeka kodlarını güvenli ve hızlı bir şekilde çalıştırmak için tasarlanmış, kendi kendine barındırılabilen bir kod yürütme sandbox platformudur. Temelinde Firecracker microVM'leri bulunan bu sistem, güvenilmeyen kodların izole edilmiş ortamlarda çalıştırılmasını sağlar. Özellikle yapay zeka uygulamaları için kritik olan güvenlik ve performans ihtiyaçlarını karşılamak üzere geliştirilmiştir.
Concave olarak da bilinen platform, snapshot tabanlı sıcak havuzlama sayesinde 200 milisaniyenin altında başlatma süreleri sunar. Bu hızlı VM sağlama yeteneği, "golden snapshots" kullanımıyla desteklenir. VM yaşam döngüsü yönetimi için gRPC kontrol düzlemi, dosya transferleri ve gerçek zamanlı çıktı için akış veri düzlemi gibi modern altyapı araçları kullanır. Ayrıca, kimlik doğrulama özellikli bir HTTP API ağ geçidi ve kolay entegrasyon için bir Python SDK ile birlikte gelir. Kullanıcılar için bir kontrol paneli ve kapsamlı bir dokümantasyon sitesi de mevcuttur.
Platformun kurulumu, GCP projesi ve alan adı ayarlarını, Terraform ve Ansible konfigürasyonlarını ve altyapı dağıtımını içerir. Python SDK, pip install concave-sandbox komutuyla kolayca kurulabilir. Proje, katkılara açıktır ve güvenlik açıkları hızla ele alınır. MIT lisansı altında yayınlanmıştır.
Yapay zeka modellerinin güvenli ve izole ortamlarda çalıştırılmasına olanak tanıyarak, potansiyel güvenlik risklerini minimize ederken performansı maksimize eder.