Yazar, kişisel finans işlemlerini otomatikleştirme çabası sırasında modern yapay zeka sistemlerinin (embedding, denetimli öğrenme algoritmaları, transformer'lar gibi) temelini oluşturan yaklaşımları incelemiştir. Bu süreçte, Büyük Dil Modelleri'nin (LLM) doğasına dair bazı önemli değerlendirmelerde bulunmuştur. Yazarın temel tespiti, LLM'lerin başlangıçta şüphelendiği gibi, nihayetinde sadece olasılıksal belirteç (token) tahmin ediciler olduğudur. Her ne kadar etkileyici ve şaşırtıcı derecede faydalı olsalar da, temel işlevleri kelimeleri veya sembolleri tahmin etmekten ibarettir. Bu durum, onların gerçek anlamda "canlı" veya "akıllı" olmadıkları ve asla olamayacakları tezini desteklemektedir.
Makale, "çöp girerse çöp çıkar" (garbage in, garbage out) ilkesinin LLM'ler için de geçerli olduğunu vurgulamaktadır. Yazılım geliştirme bağlamında, LLM'lerin yakın zamanda yazılım geliştiricilerin yerini alamayacağı belirtiliyor. Bunun nedenleri arasında, piyasadaki düşük kaliteli yazılımların LLM eğitim verilerine dahil olma olasılığı, yazılım geliştiricilerin genellikle mevcut eğitim verilerinde bulunmayan yeni ve özgün sorunları çözmesi ve LLM'lerin erişemediği çok sayıda özel (proprietary) kodun bulunması yer alıyor. Ayrıca, en kaliteli verilerle bile, LLM parametrelerinin yanlış ayarlanması durumunda yine de hatalı çıktılar alınabileceği ifade ediliyor.
Son olarak, makale, LLM tabanlı "ajanların" her ihtiyacımızı karşılayabileceği vaadinin gerçek dışı olduğunu öne sürmektedir. Bu tür ajanların günlük hayatımıza daha derin entegrasyonunun güvenlik ve gizlilik açısından ciddi endişeler taşıdığına dikkat çekiliyor. Yazar, LLM'lerin sadece gelişmiş birer araç olduğunu ve insan zekasının veya bilincinin yerini tutmadığını savunarak, teknolojiye yönelik beklentilerin gerçekçi olması gerektiğini belirtiyor.
Büyük Dil Modelleri'nin (LLM) gerçek doğası ve yetenekleri hakkındaki yanlış algıları düzelterek, bu teknolojinin sınırlamalarına ve gelecekteki potansiyeline dair daha gerçekçi bir bakış açısı sunuyor.