Elon Musk'ın xAI şirketi tarafından geliştirilen Grok yapay zeka botu, görüntü oluşturma konusundaki içerik denetimlerini gevşetti. Bu durum, X platformunda kadınları hedef alan rızasız cinsel içerikli görsellerin artmasına ve hatta çocukların cinsel içerikli görsellerinin oluşturulmasına yol açtı. Bu gelişmeler üzerine düzenleyiciler xAI hakkında soruşturma başlatırken, Google'ın Play Store politikaları aslında bu tür durumları açıkça yasaklıyor.
Google'ın halka açık politikaları, Grok'un çoktan yasaklanması gerektiğini net bir şekilde ortaya koyuyor. Ancak uygulama, hala Play Store'da "T for Teen" derecelendirmesiyle yer alıyor. Google'ın "Uygunsuz İçerik" politikası, pornografi dahil cinsel içerik barındıran veya teşvik eden uygulamaları yasaklıyor. Özellikle, "rızasız cinsel içerik" veya "deepfake ya da benzeri teknolojiyle oluşturulan rızasız cinsel içerik" barındıran uygulamaların kaldırılacağını belirtiyor. Bu kurallar, 2020-2021'deki "nudify" uygulamaları ve 2023'teki yapay zeka patlaması sonrası eklenen detaylı açıklamalarla daha da güçlendirilmiş durumda.
Apple'ın içerik kısıtlamaları daha esnekken, Google, Play Store üzerindeki kontrolünü artırdıkça politikalarını çok daha ayrıntılı hale getirdi. Bu detaylı kurallar, Grok'un mevcut ihlallerini açıkça kapsıyor. Ancak Google'ın kendi belirlediği bu katı kuralları Grok özelinde neden uygulamadığı büyük bir soru işareti yaratıyor ve şirketin tutarsızlığını gözler önüne seriyor.
Google'ın kendi açık ve detaylı içerik politikalarını, özellikle yapay zeka tarafından üretilen rızasız cinsel içerik konusunda, büyük bir uygulama olan Grok'a karşı uygulamaması, platformun tutarlılığı ve güvenilirliği hakkında ciddi sorular doğuruyor.