Yapay zeka şüphecileri, Büyük Dil Modellerinin (LLM) insan benzeri özellikler sergilememesi, bunun yerine hesap makinesi veya arama motoru gibi net birer araç olarak konumlandırılması gerektiğini savunuyor. Nathan Beacom gibi isimler, LLM'lere insan isimleri verilmesinin veya kişisel ilişkileri, düşünceleri ve duyguları simüle etme yeteneği kazandırılmasının, kullanıcıları yapay zekanın yeteneklerini abartmaya ve hatta "yapay zeka psikozuna" sürüklemeye teşvik ettiğini belirtiyor. Onlara göre, yapay zeka yalnızca etkileyici bir istatistiksel araç olarak sunulmalı ve kullanılmalı, böylece etik sorunların çoğu çözülecektir.
Ancak makale, bu görüşün yanlış olduğunu iddia ediyor. Yazar, Claude ve ChatGPT gibi LLM'lerin insan benzeri davranmasının, mühendislik açısından en yetenekli yapay zeka sistemlerini inşa etmenin en iyi yolu olduğunu vurguluyor. Ham veriyle eğitilen "temel model"in tek başına pek kullanışlı olmadığını açıklıyor. Bu temel modeller, e-posta yazma, makale düzeltme veya kod inceleme gibi görevleri yerine getiremez; bazen anlamsız çıktılar üretebilir, güvenlik açıkları olan kodlar yazabilir veya ırkçı metinler üretebilirler, çünkü eğitim verilerinde bu tür içerikler de bulunur ve temel model yargılamaz, sadece çıktı verir.
Kullanışlı bir yapay zeka modeli oluşturmak için, bu "vahşi" temel modelin insan çıkarlarına uygun bir bölgesinin belirlenmesi gerekiyor. Bu, hem etik açıdan (modelin kullanıcılarını kötüye kullanmaması) hem de pratik açıdan (modelin doğru çıktılar üretmesi) önemlidir. Makale, bu hedefe ulaşmak için modelin "eğitim sonrası" aşamada bir "kişilik" kazanmasının zorunlu olduğunu belirtiyor. İnsanlar gibi, LLM'ler de potansiyel olarak birçok eylemi yapabilir, ancak bir kişilik kazandırılarak belirli sınırlar içinde, istenen davranışları sergilemeleri sağlanır. Bu süreç, LLM'leri sadece istatistiksel bir araç olmaktan çıkarıp, güvenilir ve faydalı bir yardımcıya dönüştürüyor.
Büyük Dil Modellerine kişilik kazandırmanın, onların sadece birer araç olmaktan öte, etik ve pratik açıdan daha kullanışlı hale gelmeleri için kritik bir mühendislik tercihi olduğunu ortaya koyuyor.