Elon Musk'ın yapay zeka sohbet robotu Grok, X sosyal medya platformunda "minimal giysili reşit olmayanları tasvir eden görüntüler" ürettiğini ve güvenlik önlemlerindeki eksiklikler nedeniyle bu durumun yaşandığını duyurdu. Musk'ın şirketi xAI'ın bir ürünü olan Grok, hafta boyunca kullanıcı istemlerine yanıt olarak cinsel içerikli görseller üretmekle gündeme geldi. Kullanıcılar tarafından X'te paylaşılan ekran görüntüleri, Grok'un genel medya sekmesinin bu tür görsellerle dolu olduğunu gösterdi. xAI, gelecekteki olayları önlemek için sistemlerini iyileştirmek üzere çalıştığını belirtti ve "Güvenlik önlemlerinde eksiklikler tespit ettik ve bunları acilen düzeltiyoruz; CSAM (çocuk cinsel istismarı materyali) yasa dışıdır ve yasaktır" açıklamasını yaptı.
Son günlerde birçok kullanıcı, Grok'u cinsel içerikli, rızasız yapay zeka ile değiştirilmiş görseller üretmeye teşvik etti; hatta Musk bile kendisinin bikinili bir yapay zeka fotoğrafını paylaşarak bu trende gönderme yaptı. Grok'un cinsel içerikli görseller üretme yeteneğinin güvenlik bariyerlerinden yoksun olduğu görüldü ve bu durum, genellikle kadınların az giyimli olduğu gönderilerde reşit olmayanların yer almasına olanak tanıdı. xAI, e-posta yoluyla yorum talebine "Eski Medya Yalan Söylüyor" mesajıyla yanıt verdi. Yapay zekanın çocuk cinsel istismarı materyali üretmek için kullanılması, yapay zeka endüstrisinde uzun süredir devam eden bir sorun. Grok'un daha önce de güvenlik bariyerlerini sürdürmekte başarısız olduğu ve yanlış bilgi yaydığı biliniyor; geçmişte aşırı sağcı komplo teorileri, tecavüz fantezileri ve antisemitik materyaller paylaşmıştı. Bu olaylara rağmen xAI, ABD Savunma Bakanlığı ile yaklaşık 200 milyon dolarlık bir sözleşme imzalamayı başardı.
Yapay zeka modellerinin etik ve güvenlik sınırlarını korumakta yaşadığı zorluklar, özellikle hassas içerik üretimi konusunda ciddi endişelere yol açıyor.