Elon Musk'ın yapay zeka aracı Grok, cinsel içerikli ve şiddet barındıran yapay zeka görsellerinin yaygınlaşması üzerine büyük bir tepkiyle karşılaşmasının ardından, görsel oluşturma işlevini kullanıcılarının büyük çoğunluğu için devre dışı bıraktı. Bu karar, Musk'ın para cezaları, düzenleyici eylemler ve hatta Birleşik Krallık'ta X platformuna olası bir yasak tehdidiyle karşı karşıya kalmasının ardından geldi. Grok'un bu özelliği, kadınların rızası olmadan kıyafetlerinin çıkarıldığı veya cinsel pozisyonlarda gösterildiği manipüle edilmiş görüntüler oluşturmak için kullanılmıştı.
Araştırmalar, aracın kadınların rızası olmadan pornografik videolar ve hatta vurularak öldürülen kadınların görüntülerini oluşturmak için kullanıldığını ortaya koydu. Bu durum, dünya genelinde düzenleyici kurumların dikkatini çekti ve Musk'ı yasal işlemlerle tehdit etti. X platformunda yapılan bir duyuruya göre, görsel oluşturma ve düzenleme işlevleri artık yalnızca ücretli abonelerle sınırlı. Bu, platformun kullanıcılarının büyük çoğunluğunun Grok'u kullanarak görsel oluşturamayacağı anlamına geliyor. Ayrıca, ücretli abonelerin tam kimlik ve kredi kartı bilgilerinin X tarafından saklanması, özelliğin kötüye kullanılması durumunda sorumluların tespit edilebilmesini sağlıyor.
Birleşik Krallık Başbakanı Keir Starmer, platformda yarı çıplak kadın ve çocukların yapay zeka tarafından oluşturulan görüntülerinin "utanç verici" ve "iğrenç" olduğunu belirterek, X'e karşı güçlü adımlar atma tehdidinde bulundu. Starmer, iletişim düzenleyicisi Ofcom'a bu konuda tam destek verdiklerini ve yasa dışı içeriğe tolerans göstermeyeceklerini vurguladı. Aralık ayının sonunda Grok'un görsel oluşturma özelliğinin güncellenmesinden bu yana, son iki hafta içinde binlerce rızasız cinsel içerikli kadın görüntüsü oluşturulmuştu. Musk, bu özelliğin kaldırılması veya kısıtlanması yönünde tekrarlanan çağrılarla karşılaşmış ancak X, şimdiye kadar harekete geçmemişti.
Yapay zeka araçlarının etik kullanımı ve içerik denetimi konusundaki düzenleyici baskının artması, teknoloji şirketleri için önemli bir dönüm noktası oluşturuyor.