Salesforce, büyük dil modellerine (LLM) olan yoğun bağımlılığından, güvenilirlik sorunları nedeniyle geri adım atıyor. Şirket yöneticileri, yapay zeka modellerine olan güvenin son bir yılda azaldığını belirtiyor. Salesforce'un Ürün Pazarlama Kıdemli Başkan Yardımcısı Sanjna Parulekar, bir yıl önce LLM'lere daha fazla güvendiklerini ancak artık stratejik olarak üretken yapay zekadan uzaklaşarak amiral gemisi ürünü Agentforce'da daha öngörülebilir "deterministik" otomasyona yöneldiklerini açıkladı. Bu karar, CEO Marc Benioff'un yapay zeka ajanları kullanarak destek personelini 9.000'den 5.000'e düşürdüğünü belirtmesinin ardından geldi. Şirket şimdi, Agentforce'un "büyük modellerin doğasında bulunan rastgeleliği ortadan kaldırmaya" yardımcı olabileceğini vurguluyor.
Salesforce, gerçek dünya uygulamalarında LLM'lerle çeşitli kritik teknik zorluklar yaşadı. Agentforce'un Teknoloji Direktörü Muralidhar Krishnaprasad, modellere sekizden fazla talimat verildiğinde yönergeleri atlamaya başladığını, bunun hassasiyet gerektiren iş görevleri için ciddi bir kusur olduğunu belirtti. Müşteri desteği için Agentforce kullanan Vivint gibi şirketler, müşteri etkileşimlerinden sonra memnuniyet anketleri gönderme konusunda modelin bazen başarısız olduğunu deneyimledi. Ayrıca, yöneticilerin "yapay zeka kayması" olarak tanımladığı bir sorun da ortaya çıktı; kullanıcılar alakasız sorular sorduğunda yapay zeka ajanları birincil hedeflerinden sapabiliyor. CEO Marc Benioff'un yapay zeka dönüşümüne yönelik agresif bahisleri, piyasa gerçekleriyle çatışıyor ve Benioff, veri temellerini önceliklendirerek "halüsinasyonlar" hakkındaki endişelerini dile getiriyor. Bu durum, Salesforce'un yapay zeka stratejisinde önemli bir yön değişikliğini işaret ediyor.
Büyük dil modellerinin güvenilirlik sorunları, kurumsal yazılım devlerini dahi yapay zeka stratejilerini yeniden değerlendirmeye ve daha öngörülebilir otomasyon çözümlerine yönelmeye itiyor.