Yazar, GPT veya genel olarak büyük dil modellerini (LLM) kullanmanın entelektüel gelişim üzerindeki potansiyel olumsuz etkilerini ele alıyor. Makale, bilgi arayışında LLM'lerin sunduğu "mükemmel" ve anında cevapların, Google'ın "Kendimi Şanslı Hissediyorum" (I'm Feeling Lucky) butonunun hipotetik, her zaman doğru çalışan bir versiyonuna benzediğini öne sürüyor. Bu senaryoda, her aramanın ilk sonuçta başarıyla sonuçlanması, bireyin bilgiye ulaşma sürecinde karşılaşacağı zorlukları, farklı görüşleri, çelişkileri ve derinlemesine araştırmayı ortadan kaldırarak entelektüel deneyimini kısıtlayacağını savunuyor. Yazar, entelektüel gelişimin sadece bilgi edinmekle değil, aynı zamanda fikirlerin nasıl çatıştığını, dönüştüğünü ve öldüğünü deneyimlemekle, epistemik bir sezgi geliştirmekle ve bir şeyin yanlış olduğunu formal olarak kanıtlamadan önce hissetme yeteneği kazanmakla mümkün olduğunu vurguluyor.
Gerçek dünyada ise LLM'lerin bu hipotetik "mükemmel" seviyeden çok uzak olduğunu belirtiyor. Uzmanlık alanlarında LLM'lerden beklenen derinlikte cevaplar alınamadığını, hatta LLM'lerin kendinden emin bir şekilde yanlış, eksik veya sadece "olası" bilgiler sunabileceğini ifade ediyor. Gell-Mann Amnesia etkisiyle, insanların kendi uzmanlık alanları dışındaki konularda LLM'lerin doğruluğuna daha kolay inandığını belirtiyor. Entelektüel gelişimin, bir bilginin neden yanlış olabileceğini anlamak, farklı görüşleri değerlendirmek, varsayımları sorgulamak ve bu varsayımlar çöktüğünde ne olacağını görmek üzerine kurulduğunun altını çiziyor.
Sonuç olarak, bir aracın verimli olmasının, entelektüel açıdan aşındırıcı olmayacağı anlamına gelmediğini savunuyor. LLM'lerin sunduğu "pürüzsüz" ve ikna edici cevapların, aslında belirsizliği gizleyerek eleştirel düşünme ve derinlemesine anlama becerilerini köreltebileceği uyarısında bulunuyor. Bu durumun, sadece doğru bilgiye ulaşmaktan öte, bilginin nasıl inşa edildiğini ve sorgulandığını öğrenme deneyiminden mahrum kalmak anlamına geldiğini belirtiyor.
LLM'lerin bilgiye anında erişim sağlaması, eleştirel düşünme ve derinlemesine anlama becerilerini körelterek entelektüel gelişimi olumsuz etkileyebilir.