Baidu sınırsız uzunlukta belge ayrıştıran Unlimited-OCR-2 modelini yayımladı
Öne çıkanlar
- SR-SWA mimarisi dikkat işlemlerini 512 token seviyesindeki sabit bir çalışma kümesine sıkıştırıyor.
- Uzun belgelerde bellek ayak izi ve adım başına gecikme sayfa sayısından bağımsız olarak sabit tutuluyor.
- Model Transformers, vLLM ve SGLang altyapıları üzerinden doğrudan çalıştırılabiliyor.
Baidu, çok sayfalı ve aşırı uzun belgeleri tek bir oturumda ayrıştırabilen Unlimited-OCR-2 modelini açık kaynaklı olarak sundu. Geliştirici ekip, yeni modelle birlikte ultra uzun belgelerin analizini ölçmek amacıyla MarathonDocBench adında yeni bir test veri kümesi de duyurdu. Paylaşılan model dosyaları, popüler kütüphaneler ve açık kaynak ekosistemi üzerinden erişime açıldı.
Modelin temelini, metin ve görsel dikkat mekanizmalarını sabit boyutlu bir çalışma kümesine sıkıştıran Sparse Reference Sliding Window Attention (SR-SWA) mimarisi oluşturuyor. Bu teknik sayesinde belgenin uzunluğu artsa bile hesaplama karmaşıklığı, adım başına kod çözme gecikmesi ve bellek kullanımı neredeyse sabit kalıyor. Mimari, klasik dikkat mekanizmalarındaki karesel bellek artışı darboğazını aşarak sonlu bir bağlam penceresi içinde sınırsız belge çözümlemesine imkan tanıyor.
Sistem, tek bir istekte yüzlerce sayfalık kitapların veya PDF dosyalarının metne dönüştürülmesini destekliyor. Çıkarım süreçleri için yerel Transformers kütüphanesinin yanı sıra yüksek eşzamanlılık sunan SGLang ve vLLM gibi sunucu çatıları tam uyumlulukla öneriliyor. Unlimited-OCR-2, MPDocBench ve MarathonDocBench gibi çok sayfalı belge testlerinde en gelişmiş başarım düzeyine ulaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.