NightRun işletim sistemi olmadan doğrudan yapay zekayla açılıyor
Öne çıkanlar
- NightRun, Linux veya başka bir işletim sistemi olmadan doğrudan UEFI üzerinden belleğe yükleniyor.
- Sistem Llama 3.2, Granite 4.1 ve Qwen3 gibi 1B ile 4B parametreli modelleri işlemci üzerinde çalıştırıyor.
- Ağ yığını bulunmayan mimari, model belleğe yüklendikten sonra dış dünya ile veri alışverişini tamamen kesiyor.
NightRun adlı yeni açık kaynaklı yazılım, x86 bilgisayarların ve Raspberry Pi 5 sistemlerinin herhangi bir işletim sistemine ihtiyaç duymadan doğrudan yerel bir yapay zeka modeline açılmasını sağladı. Rust diliyle yazılan proje, geleneksel Linux kurulumlarını ve çalıştırma ortamlarını aradan çıkararak cihazın donanım yazılımı üzerinden tek bir UEFI uygulaması olarak belleğe yükleniyor. Sistem yüklendikten sonra ağ bağlantısı, başlatma süreçleri veya arka plan servisleri olmadan tamamen bellek üzerinde çalışıyor.
Sistem tüm bileşenleri doğrudan RAM içinde tuttuğu için yalnızca işlemci üzerinden çalışan küçük boyutlu modellere destek veriyor. Proje kapsamında Llama 3.2 1B ve 3B, Granite 4.1 3B ile Qwen3 4B gibi 1,3 GB ile 2,4 GB boyut aralığındaki modeller kullanılıyor. İşletim sistemi katmanı bulunmadığından dolayı yazılım, kendi piksel tabanlı terminal arayüzünü, yazı tipini ve Raspberry Pi üzerindeki fan kontrolünü doğrudan kendi kod tabanıyla yönetiyor.
Kurulum aşamasında Rust derleme araçlarındaki güncellemeler ve UEFI bağımlılıkları nedeniyle çeşitli derleme sorunları yaşansa da sistem DD modunda harici diske yazılarak başarıyla test edildi. Yapılan testlerde 4096 bağlam uzunluğuna sahip modellerin ağ bağlantısı olmadan mantıklı yanıtlar üretebildiği görüldü. Uygulama, cihazları genel amaçlı bir bilgisayardan ziyade tek işlevli bir yapay zeka cihazına dönüştürüyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.