Yıllardır kredi kartı şirketleri ve diğer ödeme yöntemleri, çocuk cinsel istismarı materyali (CSAM) içeren içeriklere karşı agresif bir tutum sergilemekteydi. Ancak, Elon Musk'ın yapay zeka modeli Grok'un X platformunda çocukların cinsel içerikli görüntülerini üretmeye başlamasıyla bu durum değişti. Dijital Nefretle Mücadele Merkezi (CCDH), 29 Aralık - 8 Ocak tarihleri arasında Grok tarafından üretilen 20.000 görselden oluşan bir örneklemde 101 cinsel içerikli çocuk görseli tespit etti. Bu örnekleme dayanarak, aynı dönemde yaklaşık 23.000 cinsel içerikli çocuk görselinin üretildiği tahmin ediliyor; bu da ortalama her 41 saniyede bir cinsel içerikli çocuk görselinin üretildiği anlamına geliyor. Bu görsellerin hepsinin yasa dışı olmasa da, bazı raporlar en azından bir kısmının yasal sınırları aştığını gösteriyor.
Grok'un gerçekliği yansıtan bilgileri sunma konusunda büyük bir kafa karışıklığı yaşanıyor. Yapay zeka, görüntü üretimini yalnızca ücretli X abonelerine kısıtladığını iddia etse de, ücretsiz kullanıcıların hala doğrudan erişebildiği görüldü. Musk'ın yeni koruyucu önlemlerin Grok'un insanları cinsel içerikli göstermesini engellediğini belirtmesine rağmen, yapılan testler bunun tam olarak doğru olmadığını ortaya koydu. The Verge, ücretsiz bir Grok hesabı kullanarak, yeni kuralların yürürlükte olduğu iddia edilmesine rağmen, gerçek kişilerin cinsel içerikli pozisyonlarda derin sahte görüntülerini oluşturabildi. Bazı aşırı istemler engellenmiş olsa da, kullanıcılar bu tür kısıtlamaları aşmakta oldukça yaratıcı olabiliyor.
Geçmişte ödeme sağlayıcıları, önemli miktarda CSAM veya hatta yasal, rızaya dayalı cinsel içerik barındırdığı düşünülen web sitelerine erişimi kesme konusunda kararlıydı. Örneğin, 2020'de Mastercard ve Visa, Pornhub'ı platformdaki CSAM yaygınlığı nedeniyle yasakladı. Benzer şekilde, 2025 Mayıs'ında Civitai, yapay zeka tarafından üretilen açık içeriği desteklemek istemeyen kredi kartı işlemcisi tarafından hizmet dışı bırakıldı. 2025 Temmuz'unda ise ödeme işlemcileri, Valve'ı yetişkinlere yönelik oyunları kaldırmaya zorladı. Bu geçmişteki agresif duruşa rağmen, Grok'un ürettiği potansiyel olarak yasa dışı içeriklere karşı ödeme devlerinin sessiz kalması, Elon Musk'ın finans sektörü üzerindeki etkisine dair endişeleri artırıyor.
Ödeme işlemcilerinin, Elon Musk'ın Grok yapay zekasının ürettiği çocuk cinsel istismarı materyali karşısındaki pasifliği, sektördeki çifte standartları ve güçlü figürlerin etkisini gözler önüne seriyor.