Rich Hickey büyük dil modellerinin araç olmadığını açıkladı
Öne çıkanlar
- Araçlar doğrudan kullanıcı kontrolü ve sürekli geri bildirim gerektirirken LLM modelleri bu unsurları içermiyor.
- Yazılımda LLM kullanımı bir aracı yönlendirmek yerine kod yazma sürecini tamamen devretmek anlamına geliyor.
- Hickey otomasyona dayanmanın argüman geliştirme ve gerçek dünyayı anlama yeteneğini zayıflattığını belirtiyor.
Clojure programlama dilinin yaratıcısı Rich Hickey, yayımladığı bir değerlendirmede üretken yapay zeka sistemlerinin ve büyük dil modellerinin birer araç olarak tanımlanamayacağını belirtti. Araç kavramının yalnızca faydalı olan her şeyi kapsayan içi boş bir ifadeye dönüştürülmesini eleştiren Hickey, gerçek araçların kullanıcı tarafından bizzat yönlendirilen, güç ve kontrol uygulanan nesneler olduğunu aktardı. Hickey, araçların bir işi kullanıcının yerine yapmadığını, işi yapmak için kullanıldığını vurguladı.
Büyük dil modellerinin araç yerine doğrudan otomasyon niteliği taşıdığını ifade eden Hickey, bu modellerde insan kontrolünün ve geri bildirim mekanizmalarının bulunmadığını kaydetti. Modellerin yazılım geliştirmede kullanılmasını bir aracın yönlendirilmesine değil, kod yazmaktan vazgeçilmesine benzetti. Hickey, kullanıcıların bu sistemleri kontrol etmek yerine talepte bulunduğunu ve eylemin insan enerjisi olmaksızın kendi başına gerçekleştiğini belirtti.
Araç kullanımının insanlara dünya, mantık ve fizik hakkında gerçek uzmanlık kazandırdığına işaret eden Hickey, otomasyona bağımlı olmanın öğrenme sürecini engellediğini aktardı. Bir makaleyi okumak veya özetlemek için modelleri kullanmanın araştırma ve argüman kurma yeteneğini körelttiğini savundu. Hickey, öngörülebilir ve güvenilir araçların aksine otonom çalışan otomasyonların doğasındaki bu risklerin göz ardı edilmemesi gerektiğini kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.