Earendil, Cloudflare üzerinde çalışan yapay zeka iskeleti Pi Durable'ı tanıttı
Öne çıkanlar
- Her sohbet oturumu, SQLite destekli izole bir Cloudflare Durable Object nesnesi üzerinde çalışıyor.
- Boşta kalan yapay zeka ajanları uyku moduna geçerek bilgi işlem maliyetlerini sıfırlıyor.
- Zamanlanmış görevler tekil Durable Object alarmlarına dönüştürülerek yeniden çalıştırma güvencesi sağlıyor.
- Bağlamlar arası aramalar bağımsız alt ajanlar aracılığıyla yürütülüyor ve ana konuşma geçmişi korunuyor.
Earendil, uzun süreli ve boşta bekleyen yapay zeka ajanlarının kesintisiz çalışmasını sağlayan Pi Durable iskeletinin Cloudflare Durable Objects entegrasyonunu yayımladı. Sürekli sunucu çalıştırma maliyetini düşürmeyi hedefleyen sistem, oturumları boşta kaldığında uyku moduna geçen ve yeni bir istek ya da alarm geldiğinde uyanan nesneler üzerinde barındırıyor. Geliştirilen mimari, oturum verilerini SQLite tabanlı depolama katmanında kalıcı hale getiriyor.
Sistemde her kullanıcı oturumu benzersiz bir Durable Object örneğine atanıyor. Çok kullanıcılı sohbet desteği sunan yapı, bir oturum altında birbirinden bağımsız birden fazla alt konuşmanın çatallanmasına imkan tanıyor. Hibrit WebSocket desteği sayesinde istemciler nesne uykudayken dahi bağlantıda kalabiliyor; kesintiye uğrayan görevler ise nesne yeniden uyandığında kaldığı yerden devam ediyor.
Arka plandaki zamanlanmış işler Durable Object alarmlarıyla eşleştirilirken, konuşmalar arası arama işlemleri ana bağlamı kirletmemek adına alt ajanlara devrediliyor. Bu alt ajanlar arama sürecindeki ham verileri kendi izole konuşmalarında tutarak yalnızca nihai yanıtı ana akışa aktarıyor. Örnek projenin kaynak kodları geliştiricilerin yerel ortamda denemesi için açık olarak paylaşıldı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.