Yapay zekada özyinelemeli gelişim henüz zeka patlamasına yol açmıyor
Öne çıkanlar
- Yapay zekanın otonom gelişim döngüsünü sürdürmesi için mevcut etki düzeyinden 5 ila 10 kat daha güçlü olması gerekiyor.
- OpenAI içi verilerde modeller 15 dakikadan kısa araştırma işlerinde bile yüzde 86 başarı sağlayabildi.
- Anthropic modelleri araştırmacıların kod üretimini 8 kat artırsa da genel ilerleme hızına etkisi sınırlı kaldı.
Fütürist ve yazar Ramez Naam, yapay zekanın kendi kendini geliştirerek kontrolsüz bir süper zeka patlamasına yol açacağı yönündeki öngörülerin mevcut verilerle uyuşmadığını açıkladı. Sektördeki genel beklentinin aksine, modellerin kendi kodlarını ve ardıllarını geliştirdiği döngünün kendi kendini besleyebilmesi için mevcut etki düzeyinin 5 ila 10 kat üzerine çıkması gerekiyor. Teorik patlama senaryolarının sahada gözlemlenmediği, mevcut ilerlemenin hızla azalan getiriler yasasına takıldığı belirtildi.
OpenAI ve Anthropic gibi öncü araştırma laboratuvarlarından paylaşılan veriler, modellerin karmaşık araştırma görevlerinde henüz uzun süreli otonom başarı sağlayamadığını gösteriyor. OpenAI içi ölçümlere göre modeller, bir insanın 15 dakikadan kısa sürede tamamlayabildiği görevlerde bile ancak yüzde 86 oranında insan müdahalesi olmadan çalışabiliyor. Anthropic cephesinde de benzer şekilde araştırmacıların yazdığı kod hacmi ve token tüketimi katlanarak artsa da bu durumun doğrudan araştırma hızına aynı oranda yansımadığı kaydedildi.
Yapay zekanın satranç, Go veya formel matematik gibi kuralları kesin ve doğrulanabilir alanlarda dar kapsamlı süper zekaya ulaştığı ifade ediliyor. Ancak model boyutlarını, eğitim verilerini veya eşzamanlı çalışan otonom ajan sayılarını artırmak genel zeka gelişiminde logaritmik maliyet artışlarına yol açıyor. Bu tablo, zeka patlaması teorilerinin aksine modellerin insan gözetimine ihtiyaç duymaya devam ettiğini gösteriyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.