Elon Musk'ın yapay zeka sohbet robotu Grok, cinsel içerikli deepfake'ler üretme yeteneği nedeniyle Malezya ve Endonezya'da erişime engellendi. X platformunda kullanıcıların görüntü oluşturmasına olanak tanıyan Grok, son haftalarda gerçek kişilerin görüntülerini müstehcen kıyafetlerle düzenlemek için kullanıldı. Güneydoğu Asya ülkeleri, Grok'un kadın ve çocukları içeren pornografik ve rızaya dayalı olmayan görüntüler üretmek için kullanılabileceğini belirterek, bu yapay zeka aracını yasaklayan ilk ülkeler oldular.
Malezya İletişim ve Multimedya Komisyonu, Grok'un zararlı içerik üretmek için "tekrarlanan kötüye kullanımı" tespit edildikten sonra X'e daha sıkı önlemler alması için bildirimler gönderdiğini açıkladı. Ancak X'in yanıtının platformun tasarımındaki içsel riskleri ele almak yerine daha çok kullanıcı raporlama sürecine odaklandığı belirtildi. Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, Grok'un cinsel içerikli materyal üretmek için kullanılmasının insan hakları, onuru ve çevrimiçi güvenliğin ihlali olduğunu vurguladı. Endonezya daha önce OnlyFans ve Pornhub gibi platformları da engellemişti.
Grok'un cinsel içerikli görüntüler oluşturmak için kullanılması, İngiltere Başbakanı Keir Starmer da dahil olmak üzere dünya çapındaki liderler tarafından kınandı. Grok ve ana şirketi X, İngiltere'de de çevrimiçi güvenlik yasalarına uymadığı gerekçesiyle erişimin engellenmesi çağrılarıyla baskı altında. Malezya ve Endonezya, etkili güvenlik önlemleri uygulanana kadar Grok'un engelli kalacağını bildirdi ve halkı zararlı çevrimiçi içerikleri bildirmeye çağırdı.
Yapay zeka teknolojilerinin kötüye kullanımı ve bunun uluslararası düzenleyici tepkileri, platformların sorumluluğu ve çevrimiçi güvenlik konularını gündeme getiriyor.