Birleşik Krallık hükümeti, Elon Musk'ın sahibi olduğu X platformunu, yapay zeka tarafından üretilen uygunsuz görsellerin yayılması nedeniyle yasaklama tehdidinde bulundu. Özellikle kadın ve çocukları hedef alan müstehcen içeriklerin platformda hızla artması üzerine, medya denetleme kuruluşu Ofcom, X hakkında başlattığı soruşturmayı hızlandıracağını duyurdu. Bu durum, platformun Grok AI aracı aracılığıyla kullanıcıların kıyafetli kadın ve çocuk görsellerini bikinili veya cinsel içerikli pozlara dönüştürmesine olanak tanımasıyla daha da kötüleşti.
X, küresel tepkiler üzerine Grok AI üzerinden görsel oluşturma özelliğini sadece ücretli abonelere kısıtladığını açıkladı. Ancak bu adım, mağdurlar, politikacılar ve uzmanlar tarafından yetersiz bulundu. Hükümetin suç mağdurları komiseri Claire Waxman, X'in artık kadınlar için "güvenli bir alan" olmadığını belirtti ve ofisinin platformdaki varlığını azaltmayı düşündüğünü ifade etti. Downing Street ise X'in bu hamlesini "aşağılayıcı" olarak nitelendirdi.
Birleşik Krallık teknoloji bakanı Liz Kendall, hükümetin X'e erişimi engelleme olasılığını ciddi şekilde değerlendirdiğini vurguladı. Online Güvenlik Yasası kapsamında, Ofcom'un platformlara bu tür materyallerle mücadele etme zorunluluğu getirebileceğini ve uyumsuzluk durumunda milyonlarca sterlinlik para cezaları uygulayabileceğini, hatta nihai yaptırım olarak erişimin engellenmesi için mahkeme kararı çıkarabileceğini hatırlattı. Ofcom, X'ten acil yanıtlar beklediğini ve birkaç gün içinde eylem açıklayacağını belirtti.
Sosyal medya platformlarının yapay zeka ile üretilen uygunsuz içeriklerle mücadeledeki yetersizliğinin, hükümetlerin çevrimiçi güvenliği sağlamak adına platformlara erişimi engelleme gibi ciddi yaptırımlar uygulamasına neden olabileceğini gösteriyor.