Yapay zeka modellerinin yinelemeli döngüleri metinleri kökten değiştiriyor
Öne çıkanlar
- Görsel modeller ardışık düzenlemelerde gürültü birikimi nedeniyle hızla bozuluyor.
- Açık uçlu metin yeniden yazım döngülerinde model özgün metinden tamamen uzaklaşıyor.
- Gemini modeliyle yapılan 31 adımlık döngü sonunda metin belirli klişeler etrafında sabitlendi.
Yapay zeka modellerinin kendi ürettikleri çıktılar üzerinden tekrar tekrar beslendiği yinelemeli döngüler, güvenlik ve dil modelleri alanında dikkat çeken sonuçlar ortaya koydu. Görsel üretim araçlarında ardışık düzenlemeler biriken gürültü nedeniyle hızla görsel bozulmalara yol açarken, metin tabanlı büyük dil modelleri açık uçlu yeniden yazım komutlarında tamamen farklı bir eğilim sergiledi. Bir araştırmacı, Raymond Chandler'ın klasik bir polisiye roman pasajını Gemini modeline vererek metni üslup ve akıcılık amacıyla art arda yeniden yazdırdı.
Deney kapsamında modele her adımda yalnızca bir önceki çıktısı ve aynı yeniden yazım talimatı iletildi. İlk birkaç yinelemede orijinal metindeki betimlemeler yerini abartılı metaforlara bırakırken, sekizinci adımdan itibaren karakter ve mekân tasvirleri karanlık ve tehditkâr bir tona evrildi. 12 ve 16'ncı adımlarda metindeki atmosfer bütünüyle değişerek orijinal anlatıdan koptu ve Raymond Chandler'ın sade dili adeta gotik bir korku kurgusuna dönüştü.
Yaklaşık 20 yinelemenin ardından modelin ürettiği metinler sürekli başkalaşmak yerine belirli bir kalıba yerleşti. Süreç boyunca dekor ve karakter tanımları benzer şiddet metaforları etrafında dönerken, sistem 31'inci adımda tamamen kararlı bir nihai metne ulaştı. Yapılan inceleme, dil modellerinin serbest bırakıldıklarında sonsuz bir sapma yaşamak yerine tipik model diline (LLMese) ve belirli bir kararlılık noktasına çekildiğini gösterdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.