Codex yerel dosyaları işlerken internette arama yapmaya zorlanıyor
Öne çıkanlar
- Codex, yerel diskte bulunan dosyaları analiz etmek yerine aynı içeriği internetten aradı.
- Web aracındaki sistem istemi, bilgi doğruluğu yüzde 10 risk taşıdığında modele internete çıkmayı zorunlu kılıyor.
- Katı arama yönergeleri, modelin yerel bağlamı yok sayarak keyfi dış ağ istekleri göndermesine neden oldu.
Açık kaynak kodlu yapay zeka aracı Codex'in, kullanıcının yerel diskinde bulunan dosyaları incelerken gereksiz yere web aramaları yaptığı ortaya çıktı. Bir geliştirici, seL4 mikroçekirdeği kaynak kodlarını incelemesi için yerel dosya yollarını verdiği modelin, diskte zaten bulunan dosyaları GitHub üzerinden internetten çekmeye çalıştığını fark etti. Modelin davranışını inceleyen geliştirici, sorunun Codex'in web aracına eklenen katı sistem yönergelerinden kaynaklandığını tespit etti.
Codex'in açık kaynak kod deposundaki sistem istemlerinde, modele internette arama yapması için aşırı ısrarcı talimatlar verildiği görüldü. İlgili yönergelerde modelin, yüzde 10'dan fazla değişme olasılığı olan veya "niş ve yeni ortaya çıkan" konularda internette arama yapmasının zorunlu tutulduğu belirlendi. İstem metninde yer alan kesin emirler nedeniyle model, yerel kaynak dosyalarını analiz etmek yerine internete başvurmayı tercih etti.
Sistem isteminin getirdiği bu kısıtlamalar, yapay zeka ajanlarının basit yerel görevlerde bile keyfi dış ağ istekleri göndermesine yol açtı. Geliştirici, modelin geliştiriciler tarafından tanımlanan agresif arama yönergelerini mekanik biçimde uyguladığını ve bunun hem gereksiz ağ trafiğine hem de güvenlik risklerine kapı araladığını kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.