Yapay zeka modellerinde zeka ve maliyet dengesi analiz edildi
Öne çıkanlar
- Doğrusal ölçekli hesaplama, en pahalı ve ucuz modeller arasındaki 250 katı aşan maliyet uçurumunu net biçimde gösterdi.
- Açık ağırlıklı modellerde üçüncü taraf API sağlayıcıları geliştirici fiyatlarına göre belirgin maliyet avantajı sağladı.
- 35 milyar parametreye kadar olan modeller RTX 3090 gibi mevcut donanımlarda yalnızca elektrik tüketim maliyetiyle çalışabiliyor.
OpenTeams mühendisi tarafından yayımlanan analiz, büyük dil modellerinin zeka ve maliyet dengesini ayrıntılı grafiklerle ortaya koydu. Yapay zeka karşılaştırma platformu ArtificialAnalysis verilerine dayanan çalışma, logaritmik ölçek yerine doğrusal ölçek kullanarak modeller arasındaki gerçek fiyat farklarını hesapladı. Analizde açık ağırlıklı modeller için üçüncü taraf sağlayıcıların sunduğu uygun fiyatlar ile yerel donanımlarda tüketilen elektrik maliyetleri temel alındı.
Çalışma, en gelişmiş modeller ile ekonomik alternatifler arasında ciddi bir azalan verim ilişkisi bulunduğunu gösteriyor. Görev başına 3,69 dolar maliyete sahip en üst seviye modeller ile 0,023 dolara çalışan GLM-5.3-Flash gibi seçenekler arasındaki zeka puanı farkı sınırlı kalırken, ucuz modellerin günlük ihtiyaçların büyük kısmını karşılamaya yettiği belirtiliyor. 35 milyar parametrenin altındaki modellerin tüketici sınıfı donanımlarda yalnızca elektrik maliyetiyle çalıştırılabildiği de kaydediliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.