Büyük dil modellerinin (LLM) yaygınlaşmasıyla birlikte, bu teknolojilerin bilişsel yeteneklerimizi köreltebileceği yönündeki eleştiriler artıyor. "Kullan ya da kaybet" prensibi, belirli becerilerin kullanılmadığında zihinsel bir atrofiyi tetikleyebileceği sezgisel ve deneysel olarak geçerli bir argüman olarak öne sürülüyor. Ancak asıl soru, LLM kullanımının hangi durumlarda daha faydalı, hangi durumlarda daha zararlı olduğudur.
Andy Masley, "bilişsel yığın yanılgısı" (lump of cognition fallacy) adlı blog yazısında bu konuyu derinlemesine ele alıyor. Masley, yapılacak düşünme miktarının sabit olduğu fikrine karşı çıkarak, sohbet botlarına düşünmeyi devretmenin bizi tembel, daha az zeki yapacağı veya bilişsel yeteneklerimiz için olumsuz olacağı sonucuna varmanın yanlış olduğunu savunuyor. Ekonomideki "iş yığını yanılgısı" (lump of labour fallacy) ile bir benzetme yaparak, düşünmenin genellikle daha fazla düşünme konusuna yol açtığını ve bu nedenle makinelerin bizim yerimize düşünmesinden endişelenmememiz gerektiğini, çünkü bunun bize başka şeyler hakkında düşünme fırsatı sunacağını belirtiyor.
Makalenin yazarı ise Masley'nin argümanlarını bir başlangıç noktası olarak kullanarak, konunun "düşünmenin daha fazla düşünmeye yol açtığı" basitliğinden çok daha karmaşık olduğunu vurguluyor. Yazar, "düşünmeyi dış kaynaklara devretmenin" bazı kritik sorunları olduğunu ve üretken dil modellerinin ne zaman kullanılmaktan kaçınılması gerektiğini sorguluyor. Amaç, Masley'nin tüm argümanlarını çürütmek değil, ancak bu konunun çok yönlü doğasını ve potansiyel zararlarını ortaya koymaktır.
Yapay zekanın düşünme süreçlerimize entegrasyonunun bilişsel yeteneklerimiz üzerindeki uzun vadeli etkileri, basit bir verimlilik artışından öte, karmaşık felsefi ve nörobilimsel soruları beraberinde getiriyor.