Güney Kore, yapay zeka tarafından üretilen içeriklere filigran zorunluluğu getiren dünyanın ilk kapsamlı yapay zeka yasasını yürürlüğe koydu. "Yapay Zekanın Geliştirilmesi ve Güvenilirlik İçin Temel Oluşturma Temel Yasası" başlıklı bu düzenleme, işletmelerin yapay zeka ile oluşturulan görselleri, videoları ve sesleri şeffaflık kuralları çerçevesinde etiketlemesini şart koşuyor. Animasyon veya webcomic gibi yapay olduğu kolayca anlaşılan içerikler için görünmez dijital filigranlara izin verilirken, gerçek kişilere veya olaylara benzeyen deepfake içeriklerin açıkça görülebilir filigranlar taşıması gerekiyor. Ancak bu kurallar yalnızca işletmeleri kapsıyor, bireysel kullanıcıları değil.
Yasanın uygulanabilirliği konusunda ciddi endişeler bulunuyor. Piyasada filigran kaldırma uygulamalarının yaygın olması, bu zorunluluğun etkinliğini sorgulatıyor. Ayrıca, çevrimiçi dolaşan deepfake içeriklerin büyük bir kısmı, yasanın yargı yetkisi dışındaki yabancı uygulamalar kullanılarak üretiliyor. Yabancı teknoloji şirketlerinin Kore'de yerel bir temsilci atamasını gerektiren madde, yalnızca belirli gelir veya kullanıcı eşiklerini karşılayan firmalar (pratikte Google ve OpenAI) için geçerli. Bu durum, yerel yapay zeka şirketlerinin denizaşırı rakiplerine kıyasla daha ağır düzenleyici yüklerle karşılaşabileceği endişesini doğuruyor.
Uzmanlar, yasanın "AI slop" olarak adlandırılan düşük kaliteli veya yanıltıcı, yapay zeka ile seri üretilen içeriklerin yayılmasını ele almakta yetersiz kaldığını belirtiyor. Sektör grupları da yasanın orantısız bir şekilde yerel firmaları etkileyebileceği konusunda endişelerini dile getiriyor. Bu durum, yasanın küresel ölçekte yapay zeka düzenlemeleri için bir emsal teşkil etse de, pratik uygulama ve uluslararası işbirliği eksiklikleri nedeniyle önemli boşluklara sahip olduğunu gösteriyor.
Güney Kore'nin yapay zeka içeriğine filigran zorunluluğu getiren yasası, küresel yapay zeka düzenlemeleri için bir emsal teşkil ederken, uygulanabilirlik ve uluslararası içerik üzerindeki etkisi konusunda önemli zorluklarla karşılaşıyor.