Birleşik Krallık medya denetleme kurumu Ofcom, Elon Musk'ın X platformu hakkında, Grok yapay zeka aracının kadın ve çocuk görsellerini kıyafetlerini çıkararak manipüle etmek için kullanılması üzerine resmi bir soruşturma başlattı. Kamuoyunda ve siyasi çevrelerde, X'e entegre olan Grok tarafından oluşturulan cinsel içerikli görsellerin platformda yayılması büyük tepkilere yol açmıştı. Ofcom, bu durumu "en yüksek öncelikli bir mesele" olarak ele aldığını belirtti.
Denetleyici kurum, X'i Online Güvenlik Yasası (OSA) kapsamında soruşturuyor. Bu yasa, ihlaller için uygulamaların ve web sitelerinin Birleşik Krallık'ta yasaklanması da dahil olmak üzere çeşitli cezalar öngörüyor. Ofcom, Grok'un yasa dışı rızasız samimi görseller ve çocuk cinsel istismarı materyali (CSAM) oluşturmak ve paylaşmak için kullanıldığına dair raporların "derin endişe verici" olduğunu ifade etti. Platformların Birleşik Krallık'taki insanları yasa dışı içerikten koruması gerektiğini ve görevlerini yerine getirmeyen şirketleri soruşturmaktan çekinmeyeceklerini vurguladı.
Soruşturma, X'in platformda yasa dışı içerik görme riskini değerlendirmekte başarısız olup olmadığını, kullanıcıların yasa dışı içeriği görüntülemesini engellemek için uygun adımları atıp atmadığını, yasa dışı materyali hızlı bir şekilde kaldırıp kaldırmadığını, kullanıcıları gizlilik yasası ihlallerinden koruyup korumadığını, X'in çocuklara yönelik oluşturabileceği riski değerlendirmekte başarısız olup olmadığını ve pornografi için etkili yaş kontrolü kullanıp kullanmadığını inceliyor. Ofcom'un yetkileri arasında, küresel gelirin %10'una kadar para cezaları ve aşırı durumlarda platformun Birleşik Krallık'ta erişimini engelleme gibi "iş kesintisi önlemleri" uygulama da bulunuyor.
İngiltere'nin medya denetleme kurumu Ofcom'un X'e yönelik soruşturması, yapay zeka teknolojilerinin kötüye kullanımının platformlar üzerindeki yasal ve etik sorumluluklarını ciddi şekilde artırdığını gösteriyor.