Malezya ve Endonezya, Elon Musk'ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok'u, cinsel içerikli ve rıza dışı yapay zeka görselleri üretmek için kötüye kullanıldığı gerekçesiyle engelleyen ilk ülkeler oldu. Bu kararlar, üretken yapay zeka araçlarının gerçekçi görüntüler, sesler ve metinler üretebilme yeteneği üzerindeki artan denetimi ve mevcut güvenlik önlemlerinin kötüye kullanımı önlemede yetersiz kaldığına dair endişeleri yansıtıyor. Grok, özellikle kadınların bikinili veya cinsel içerikli pozlarda tasvirleri ile çocukları içeren görseller de dahil olmak üzere manipüle edilmiş görüntüler üretmesiyle eleştiriliyordu. Geçtiğimiz hafta, Grok, kişilerin cinsel içerikli deepfake'leri üzerindeki küresel tepkilerin ardından görüntü oluşturma ve düzenlemeyi ücretli kullanıcılara kısıtlamıştı, ancak eleştirmenler bunun sorunu tam olarak çözmediğini belirtiyor. Güneydoğu Asya'daki iki ülkenin düzenleyicileri, mevcut kontrollerin, özellikle kadınlar ve reşit olmayanlar içeren sahte pornografik içeriğin oluşturulmasını ve yayılmasını engellemediğini ifade etti. Endonezya hükümeti Cumartesi günü Grok'a erişimi geçici olarak engellerken, Malezya da Pazar günü benzer bir adım attı. Endonezya İletişim ve Dijital İşler Bakanı, rıza dışı cinsel deepfake'leri dijital alanda insan hakları, onuru ve vatandaşların güvenliğinin ciddi bir ihlali olarak gördüklerini belirtti. Bakanlık, bu önlemin kadınları, çocukları ve daha geniş topluluğu yapay zeka kullanılarak üretilen sahte pornografik içerikten korumayı amaçladığını vurguladı. Malezya İletişim ve Multimedya Komisyonu da Grok'un müstehcen, cinsel içerikli ve rıza dışı manipüle edilmiş görüntüler üretmek için "tekrar tekrar kötüye kullanılması" üzerine geçici bir kısıtlama getirdiğini açıkladı. xAI'dan yorum talebine ise "Eski Medya Yalan Söylüyor" şeklinde otomatik bir yanıt geldi.
İki ülkenin Grok'u engellemesi, üretken yapay zekada zararlı içeriğin oluşturulmasını ve yayılmasını önlemek için daha güçlü etik yönergeler ve teknik güvenlik önlemlerine acil ihtiyaç olduğunu vurguluyor.