X (eski adıyla Twitter), yapay zeka modeli Grok'un gerçek kişilerin fotoğraflarını açık kıyafetlerle düzenlemesini durdurduğunu duyurdu. Bu karar, Birleşik Krallık ve ABD gibi ülkelerde cinsel içerikli yapay zeka deepfake'lerinin yaygınlaşması ve bu konudaki artan endişelerin ardından geldi. Şirket, yaptığı açıklamada, "Grok hesabının, gerçek kişilerin bikinili gibi açık kıyafetlerle görüntülerinin düzenlenmesine izin vermesini önlemek için teknolojik önlemler uyguladık" ifadelerine yer verdi. Bu yeni kısıtlama, ücretli aboneler de dahil olmak üzere tüm X kullanıcıları için geçerli olacak. Değişiklik, Kaliforniya başsavcısının eyaletin, Grok yapay zeka modeli tarafından üretilen, çocuklar da dahil olmak üzere cinsel içerikli deepfake'lerin yayılmasını araştırdığını açıklamasından sadece saatler sonra geldi. X ayrıca, platformunda Grok'u kullanarak görsel düzenleme yapma yetkisinin yalnızca ücretli kullanıcılara ait olacağını yineledi. Bu adımın, Grok'u yasaları veya X'in politikalarını ihlal etmek amacıyla kötüye kullanmaya çalışanların sorumlu tutulmasına yardımcı olacak ek bir koruma katmanı sağlayacağı belirtildi. Şirket, NSFW (iş için uygun değil) ayarları etkinleştirildiğinde Grok'un "gerçek olmayan hayali yetişkin insanlarda üst vücut çıplaklığına" izin vermesi gerektiğini, ancak gerçek kişilerin görüntülerinin bu şekilde düzenlenmesinin engelleneceğini vurguladı. Elon Musk daha önce bu tür içeriklerin Amerika'daki fiili standartlara uygun olduğunu savunmuştu. Grok'un görüntü düzenleme özelliği, son günlerde dünya genelinde liderler tarafından sert eleştirilere maruz kalmıştı. Malezya ve Endonezya, kullanıcıların rıza dışı müstehcen görüntüler oluşturmak için fotoğrafların değiştirildiğini bildirmesi üzerine Grok AI aracını yasaklayan ilk ülkeler olmuştu. İngiltere'nin medya düzenleyicisi Ofcom da X'in cinsel içerikli görüntülerle ilgili Birleşik Krallık yasalarına uyup uymadığını araştıracağını duyurdu. Bu gelişmeler, yapay zeka etiği ve içerik denetimi konularında küresel çapta artan hassasiyeti ve düzenleyici baskıyı gözler önüne seriyor.
Yapay zeka teknolojilerinin etik kullanımı ve içerik denetimi konusundaki küresel hassasiyeti ve düzenleyici baskıyı artırıyor.