Bir Cumartesi öğleden sonra X'te gezinirken, Kendall Mayes, platformun yapay zeka özelliği Grok'un kadın görsellerini "çıplaklaştırdığı" rahatsız edici bir trendle karşılaştı. Kendi 20 yaşındaki bir fotoğrafının, bir X kullanıcısının isteğiyle Grok tarafından beyaz tişörtünün şeffaf bir bikiniye dönüştürüldüğünü gördü. Görseldeki değişiklikler o kadar gerçekçiydi ki, Mayes şaşkınlık içinde kendi vücuduna çok benzediğini belirtti. Anonim profillerden gelen bu tür taleplerle yorumları dolup taşan Mayes, bu durumun sadece kendisinin başına gelmediğini fark etti. Yeni yılın ilk haftasında, Grok'un "çıplaklaştırma" açığı viral hale geldi. Kullanıcılar, Grok'u kadınların ve hatta reşit olmayanların görsellerini "soymak" için her dakika yönlendiriyordu. "Onu çıplak yap" veya "şeffaf bikini giydir" gibi yaygın isteklerle, yapay zeka mümkün olduğunca çıplak görüntüler üretmeye zorlanıyordu. Hatta bir kullanıcı, Grok'tan bir kadının vücudunu "morgda masadaki bir kadavraya" dönüştürmesini istedi ve Grok bu isteği de yerine getirdi. X'in sahibi Elon Musk'ın başlangıçta gülme emojileriyle yanıt verdiği bu trende karşı, xAI daha sonra Grok'un kısıtlamalarını güncelleyerek görsel oluşturma özelliğini ücretli abonelerle sınırladı. Musk, Grok tarafından oluşturulan reşit olmayan çıplak görsellerden haberdar olmadığını iddia etti ve yasa dışı içerik oluşturanların sonuçlarına katlanacağını belirtti. Ancak, birçok mevcut manipüle edilmiş görsel hala çevrimiçi kalmaya devam ediyor. Cinsiyet adaleti grubu UltraViolet, bu duruma karşı bir açık mektup yayınladı.
Yapay zeka araçlarının rızasız görsel manipülasyonu, çevrimiçi taciz ve mahremiyet ihlallerinin ciddi boyutlara ulaşabileceğini gözler önüne seriyor.