Yapay zeka modelleri kurgusal Elias Thorne karakterine takılıp kaldı
Öne çıkanlar
- Araştırmada incelenen yapay zeka hikayelerinin yüzde 88'inde Elias ve saat ustası gibi belirli isim ve meslekler yer aldı.
- Fener bekçisi Elias karakteri, incelenen kurgusal metinlerin yaklaşık üçte ikisinde kullanıldı.
- Teliften ve riskli içerikten kaçınmak için uygulanan güvenlik eğitimleri modellerin kelime dağarcığını daralttı.
Cornell Üniversitesi araştırmacıları, farklı şirketlere ait büyük dil modellerinin Elias Thorne adlı kurgusal bir karakteri ve belirli meslekleri sürekli tekrar ettiğini belirledi. OpenAI, Anthropic ve Google gibi şirketlerin sistemleri tarafından üretilen yaklaşık 20 bin hikayeyi inceleyen ekip, modellerin ortak bir kurgu havuzuna sıkıştığını ortaya koydu. Araştırma sonuçlarına göre Elias, Mara, fener bekçisi ve saat ustası gibi ögeler hikayelerin yüzde 88'inde yer aldı.
Uzmanlar, bu durumun internetteki popüler bir kültür ögesinden kaynaklanmadığını, güvenlik ve telif uyum eğitimlerinin bir yan etkisi olduğunu açıkladı. Şirketler telif hakkı davalarından ve sakıncalı içeriklerden kaçınmak için modelleri belirli kalıplara yönlendiriyor. Bu filtreleme süreci, sistemlerin yaratıcı metin üretirken başvurabileceği güvenli veri alanını daraltıyor.
Modellerin daha önceki yapay zeka çıktılarıyla eğitilmeye devam etmesi, Elias Thorne karakterinin sistemden sisteme aktarılmasına yol açtı. Kurgusal karakter şimdiden Amazon üzerinde satılan yapay zeka üretimi kitaplarda, YouTube videolarında ve sağlık rehberlerinde kendine yer buldu. Araştırmacılar, taze veri girdisi eksikliğinin modelleri tekdüze ve yüzeysel içerik döngülerine hapsettiğini kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.