Yapay zeka tarafından üretilen metinlerin neden genellikle sıradan, sıkıcı ve hatta tehlikeli olduğu, "semantik aşınma" adı verilen yeni bir kavramla açıklanıyor. Makale, bu durumun bir hata değil, açgözlü kod çözme (greedy decoding) ve insan geri bildiriminden pekiştirmeli öğrenme (RLHF) gibi algoritmik süreçlerin yapısal bir yan ürünü olduğunu belirtiyor. Yapay zeka modelleri, "iyileştirme" aşamasında istatistiksel olasılığı maksimize etmek için nadir, hassas ve karmaşık belirteçler olan "kuyruk verilerini" göz ardı ederek ortalamaya yöneliyor. Geliştiricilerin agresif "güvenlik" ve "yardımseverlik" ayarlamalarıyla bu durum daha da kötüleşiyor; bu ayarlamalar, alışılmadık dilsel sürtüşmeleri kasıtlı olarak cezalandırarak özgün sinyalin tamamen yok olmasına yol açıyor.
Bir yazar taslağını "parlatmak" için yapay zeka kullandığında, aslında bir gelişme değil, semantik aşınmaya tanık oluyor. Yapay zeka, metindeki benzersiz içgörülerin ve "kanın" bulunduğu yüksek entropili kümeleri belirleyip bunları sistematik olarak en olası, genel belirteç dizileriyle değiştiriyor. Bu süreç, metnin sözcük dağarcığı çeşitliliğinin (tür-belirteç oranı) çökmesine neden olan üç aşamalı bir "lobotomi" gibi işliyor. İlk aşamada, metaforik temizlik ile alışılmadık metaforlar ve canlı imgeler "gürültü" olarak algılanıp klişelerle değiştiriliyor. İkinci aşamada, sözcüksel düzleştirme ile alana özgü jargon ve yüksek hassasiyetli teknik terimler "erişilebilirlik" adına genel eş anlamlılarla değiştiriliyor. Üçüncü ve son aşamada ise yapısal çöküş yaşanıyor; karmaşık mantıksal akış, öngörülebilir, düşük karmaşıklıklı bir şablona zorlanarak alt metin ve nüanslar yok ediliyor.
Sonuç olarak, yapay zeka tarafından üretilen metinler, görsel olarak tutarlı ancak özgünlüğünden, derinliğinden ve entelektüel içeriğinden arındırılmış bir "düşüncenin JPEG'i" haline geliyor. Bu durum, yapay zeka destekli içerik üretiminin, bilgi ve ifade zenginliğini azaltma potansiyeli taşıyan ciddi bir tehlike olduğunu gösteriyor.
Yapay zeka tarafından üretilen metinlerin neden özgünlükten uzak ve sıradan olduğunu açıklayan "semantik aşınma" kavramı, bu teknolojinin bilgi aktarımındaki potansiyel tehlikelerini ortaya koyuyor.