TypeSafe AI yapılandırılmış kararlar üreten yeni modeli Jev'i tanıttı
Öne çıkanlar
- Jev, metin üretimi yerine doğrudan tip güvenli yapılandırılmış veriler döndürüyor.
- Paralel örnekleme tekniğiyle yanıt süreleri 70 ile 500 milisaniye aralığına indi.
- Girdi belirteçleri milyon başına 0,042 dolardan ücretlendirilirken çıktılar ücretsiz sunuluyor.
Eski bir OpenAI araştırmacısı tarafından kurulan TypeSafe AI, yazılım otomasyonu için tasarlanan yeni nesil modeli Jev'i duyurdu. Doğrudan program koduyla entegre çalışacak biçimde geliştirilen sistem, metin üretmek yerine önceden tanımlanmış şemalara uygun tip güvenli çıktılar veriyor. Şirket, modelin geleneksel büyük dil modellerine göre 20 ila 200 kat daha hızlı yanıt sunduğunu ve maliyetleri 40 ila 400 kat düşürdüğünü bildirdi.
Sistem 1 düşünme biçiminden esinlenen mimari, belirteçleri ardışık üretmek yerine paralel örnekleme yöntemini kullanıyor. Geliştirici ekip, RLCD adı verilen yeni bir pekiştirmeli öğrenme yöntemiyle kararları olasılık skorlarıyla birlikte ürettiklerini açıkladı. Girdi maliyeti milyon belirteç başına 0,042 dolar olarak belirlenirken, paralel mimari sayesinde çıktı belirteçleri ücretsiz sunuluyor. Yanıt süreleri ise 70 ile 500 milisaniye arasında ölçüldü.
Klasik metin üretiminden vazgeçilmesi sebebiyle modelde halüsinasyon ve tip uyuşmazlığı hatalarının tamamen engellendiği ifade edildi. Erken erişime açılan Jev, gerçek zamanlı veri filtreleme, iş akışı yönlendirme ve büyük veri analizlerinde akıllı koşullu ifadeler olarak konumlandırılıyor. TypeSafe AI, yapay zekanın yazılım geliştirme süreçlerine doğrudan fonksiyon çağrısı gibi dahil edilmesini hedefliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.