Yapay zeka tespit girişimi Pangram yayıncılıkta tartışma yaratıyor

Brooklyn merkezli yapay zeka tespit girişimi Pangram, metinlerin ne kadarının yapay zeka tarafından üretildiğini yüzdelik oranla tahmin eden modeliyle edebiyat ve yayıncılık dünyasında geniş yankı uyandırdı. Şirketin kurucu ortağı Max Spero, sosyal medya üzerinden çeşitli kitap taslaklarını ve ödüllü metinleri tarayarak sonuçlarını kamuoyuyla paylaştı. Bu incelemelerin ardından Hachette yayınevi bazı yazarlarla olan sözleşmelerini iptal etti. Platform, temmuz ayında aldığı 9 milyon dolarlık ek yatırımla birlikte Pangram 4 modelini duyurdu ve Substack gibi yayın ağlarına entegre oldu.

Sistemin çalışma mantığı, insan yazılarını büyük dil modelleriyle eşleştirip makinenin üretim kalıplarını öğrenmeye dayanan sentetik aynalama tekniğine dayanıyor. Şirket, yeni modelinde yanlış pozitif oranının yüzde 0,0041'e kadar indiğini ve şüpheli durumlarda insan lehine karar verdiğini belirtti. Ancak bağımsız araştırmalar, metin insancıllaştırıcı araçlar kullanıldığında modelin başarı oranının yüzde 4'ün altına düştüğünü ve kısa metinlerde hata payının yükseldiğini ortaya koydu. Notre Dame Üniversitesi tarafından yapılan bir çalışma, hafif yapay zeka düzenlemelerinin bile yüksek oranda makine üretimi olarak etiketlendiğini gösterdi.

Yayıncılar ve yazarlar ise denetimlerin şeffaflığı ve olası önyargılar konusunda endişelerini dile getiriyor. Uzmanlar, ana dili İngilizce olmayanların ve farklı dil kalıplarına sahip yazarların bu tür sistemler tarafından orantısız biçimde hedef alınabileceğine dikkat çekiyor. Spero ise gelen tepkilere rağmen model eğitim raporlarını paylaşarak açık bir yöntem izleyeceklerini ve hafif yapay zeka müdahalelerini dahi ayrıştıracak ayrıntılı analizler sunmayı hedeflediklerini açıkladı.