Yapay zekanın son on yıldaki gelişimi altı ana dönüm noktasına dayanıyor
Öne çıkanlar
- Transformer mimarisi veriyi paralel işleyerek büyük ölçekli modellerin eğitilmesini sağladı.
- Chinchilla araştırması model boyutu ile eğitim verisinin birlikte büyütülmesi gerektiğini kanıtladı.
- Doğrulanabilir ödüllerle pekiştirmeli öğrenme modellerin akıl yürütme yeteneğini insan denetimine ihtiyaç duymadan geliştirdi.
Yapay zeka modellerinin son on yılda geçirdiği evrim, paralel işlem mimarisinden akıl yürütme yeteneklerine kadar uzanan altı temel aşamayla şekillendi. 2017 yılında yayımlanan Transformer mimarisi, modellerin metinleri kelime kelime işlemek yerine tümüyle okumasını sağlayarak grafik işlemcilerin tam kapasiteyle çalışmasının önünü açtı.
Transformer mimarisinin ardından sektör önce parametre sayılarını artırarak ölçekleme yasalarını keşfetti, ardından DeepMind'ın Chinchilla çalışmasıyla veri setlerinin boyutunu genişletmeye odaklandı. İnsan geri bildirimiyle pekiştirmeli öğrenme yöntemi (RLHF) modelleri sohbet edilebilir ve yararlı kılan arayüzlere dönüştürürken, adım adım düşünme yaklaşımı ve doğrulanabilir ödüllerle pekiştirmeli öğrenme (RLVR) sayesinde modeller matematik ve kodlama gibi alanlarda ileri düzey akıl yürütme becerisi kazandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.