Amazon araştırmacıları hakem yapay zekaların bağımlılıklarını modelledi
Öne çıkanlar
- Araştırmacılar, yapay zeka hakemlerin birbirine bağımlı hatalarını saptamak için Ising modelini kullandı.
- Yeni yöntem, geleneksel ağırlıklı çoğunluk oylamasını standart testlerde yüzde 9 ile 14 geride bıraktı.
- Algoritma, insan etiketine gereksinim duymadan doğrudan değerlendirme kayıtlarındaki örüntülerden öğreniyor.
Amazon bünyesindeki araştırmacılar, birden fazla büyük dil modelinin hakem olarak kullanıldığı sistemlerde modeller arasındaki gizli bağımlılıkları tespit eden yeni bir yöntem geliştirdi. ICML konferansında sunulan çalışmada, modellerin çoğunluk oyu verirken aynı eğitim soyundan, ortak yönlendirmelerden veya kör noktalardan kaynaklanan hataları tekrarlayabildiği belirtildi. Araştırmacılar, bu sorunu aşmak amacıyla modeller arasındaki korelasyonu istatistiksel Ising modeliyle inceleyerek nihai puanları ağırlıklandıran denetimsiz bir yöntem tasarladı.
Geliştirilen sistem, harici insan etiketlerine ihtiyaç duymadan mevcut değerlendirme günlüklerindeki oy kalıplarını analiz ediyor. Algoritma, her modelin bireysel güvenilirlik profilini çıkarmanın yanı sıra ikili model ilişkilerini ve ortak hata eğilimlerini haritalandırıyor. Bağımlılık farkındalığına sahip bu yaklaşım, gereksiz veya korelasyonlu mutabakatların etkisini azaltırken gerçekten bağımsız modellerden gelen sinyallere daha fazla ağırlık tanıyor.
Sistem; bilgi getirme alakalılığı, zararlı içerik tespiti ve metin özetleme değerlendirmesi olmak üzere üç farklı görevde 10 adet büyük dil modeliyle test edildi. Yeni yöntem, geleneksel ağırlıklı çoğunluk oylamasına kıyasla doğruluk oranlarını yüzde 9 ile yüzde 14 arasında artırdı. Araştırma ekibi, yapay zeka panelleri kurulurken model çeşitliliğinin yalnızca farklı isimlerden değil, istatistiksel hata bağımsızlığından oluşması gerektiğini kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.