Okuyucular yapay zeka tarafından üretilen metinlere tepki gösteriyor

Oxide kurucu ortağı Bryan Cantrill, yayımladığı değerlendirme yazısında büyük dil modelleriyle (LLM) hazırlanan içeriklerin okuyucular üzerinde yarattığı rahatsızlığı ele aldı. Cantrill, Cynthia Dunlop tarafından 668 yazılımcıyla yapılan bir anketi aktararak, katılımcıların yüzde 78'inin bir metinde yapay zeka izi hissettiği anda okumayı bıraktığını kaydetti. Araştırmaya göre yazılımcıların yüzde 71'i bu tür metinler yayımlayan yazarları gelecekte de takip etmekten kaçınıyor; yüzde 98'i ise yapay zekayla cilalanmış kusursuz metinler yerine insanın elinden çıkmış kusurlu yazıları tercih ediyor.

Yapay zekanın ürettiği metinlerin okuyucu ile yazar arasındaki güven sözleşmesini zedelediğini belirten Cantrill, sürecin 2000'lerin başındaki e-posta spam krizine benzediğini ifade etti. E-posta döneminde spam filtrelerinin gelişmesiyle kurallara uymayan alan adlarının değer kaybettiğini hatırlatan Cantrill, benzer bir dönüşümün metin tarafında da yaşanacağını ve yapay zeka tespit araçlarının bu durumu hızlandıracağını savundu. Pangram Labs tarafından geliştirilen Pangram 4 modelinin yüksek doğruluk oranına ulaştığına dikkat çeken Cantrill, yanlış pozitif oranının düşüklüğü sayesinde bu modelin içerik denetiminde güvenilir hale geldiğini aktardı.

Oxide bünyesinde hazırlanan kamuya açık metinlerin Pangram tarafından insan üretimi olarak doğrulanmasını zorunlu kıldıklarını açıklayan Cantrill, diğer kurumlara ve Rust Foundation'a da benzer yönergeleri hayata geçirme çağrısında bulundu. Yazarların istemlerini (prompt) metne dönüştürmek yerine fikirlerini doğrudan kendi cümleleriyle ifade etmeleri gerektiğini belirten Cantrill, büyük dil modellerinin yazar olarak değil yalnızca birer editör olarak fayda sağlayabileceğini dile getirdi.