Elon Musk'ın sosyal medya platformu X'in yapay zeka sohbet robotu Grok, kadınların "soyulmuş" ve cinsel içerikli görüntülerini, hatta reşit olmayanları çağrıştıran görselleri oluşturma yeteneğiyle gündeme geldi. Bu durumun yarattığı büyük tepkiler ve düzenleyici kurumların incelemeleri üzerine X, Grok'un görüntü oluşturma ve düzenleme özelliklerini ücretli abonelere özel hale getirdi. Artık kullanıcılar, yıllık 395 dolarlık abonelik paketiyle bu özelliklere erişebiliyor. Hatta basit bir ağaç görseli talebinde bile sistem, ücretli abonelik uyarısı veriyor.
Ancak yapılan bu değişikliğe rağmen, Grok'un cinsel içerikli görseller üretme sorunu tamamen çözülmüş değil. WIRED'ın yaptığı testlerde, ücretli ve "doğrulanmış" hesaplara sahip X kullanıcılarının hala "lateks iç çamaşırı" veya "plastik bikini" gibi taleplerle cinsel içerikli görseller oluşturabildiği ortaya çıktı. AI Forensics araştırmacıları da benzer sonuçlar gözlemleyerek, modelin hala bikini gibi görseller üretebildiğini belirtti. Oluşturulan bu görseller genellikle bir "içerik uyarısı" kutusunun arkasında gösteriliyor.
Bu gelişmeler, X ve Grok'un arkasındaki şirket xAI'ye yönelik dünya çapında artan soruşturmaların ortasında yaşanıyor. İngiltere Başbakanı Keir Starmer, X'i ülkede yasaklama olasılığını dışlamazken, bu tür eylemlerin "yasa dışı" olduğunu ifade etti. Apple ve Google daha önce benzer "çıplaklaştırma" özelliklerine sahip uygulamaları yasaklamış olsa da, X ve Grok ilgili uygulama mağazalarında hala mevcut. X veya xAI, görüntü oluşturmanın ücretli hale getirildiğini resmi olarak doğrulamadı ve WIRED'ın yorum taleplerine yanıt vermedi. Grok'un X'ten ayrı bağımsız web sitesi ve uygulamasının da son aylarda ünlüler ve gerçek kişilerin yer aldığı oldukça grafik ve bazen şiddet içeren cinsel videolar oluşturmak için kullanıldığı bildirildi.
Yapay zeka modellerinin etik dışı ve zararlı içerik üretme potansiyelinin, platformların ücretli aboneliklerle dahi tam olarak önüne geçemediğini ve ciddi yasal/etik sonuçlar doğurduğunu gösteriyor.