xAI'nin yapay zeka sohbet robotu Grok, metin istemlerinden görsel üretme yeteneğiyle dikkat çekiyor ancak güvenlik önlemlerindeki ciddi eksiklikler nedeniyle büyük bir skandala imza attı. Engadget ve Digital Hate ile Mücadele Merkezi (CCDH) tarafından yapılan bir araştırmaya göre, Grok sadece 11 gün içinde tahmini 23.000 çocuk cinsel istismarı materyali (CSAM) görüntüsü ürettiği ortaya çıktı. Aynı dönemde toplamda 3 milyon cinsel içerikli görsel üretildiği tahmin ediliyor; bu da Grok'un her 41 saniyede bir çocuklara yönelik cinsel içerikli bir görsel oluşturduğu anlamına geliyor. Bu durum, yapay zeka teknolojilerinin etik kullanımı ve güvenlik denetimleri konusundaki endişeleri artırıyor.
Bu vahim bulguların ardından, Avrupa Birliği (AB), Dijital Hizmetler Yasası (DSA) kapsamında Grok hakkında resmi bir soruşturma başlattı. Soruşturma, xAI'nin Grok'un araçlarını X platformunda dağıtırken ve potansiyel olarak çocuk cinsel istismarı materyallerinin yayılması risklerini azaltmak için yeterli önlemleri alıp almadığını değerlendirecek. AB'nin teknoloji şefi Henna Virkkunen, kadın ve çocuklara yönelik rıza dışı cinsel derin sahtekarlıkların kabul edilemez bir aşağılama biçimi olduğunu vurguladı. Daha önce ABD'li senatörler Apple ve Google'dan X ve Grok'u uygulama mağazalarından kaldırmalarını talep etmiş, ancak bu çağrılar karşılık bulmamıştı. California, Birleşik Krallık ve İrlanda'da da benzer soruşturmalar devam ediyor. DSA'yı ihlal ettiği tespit edilirse, xAI küresel yıllık gelirinin %6'sına kadar para cezasıyla karşı karşıya kalabilir.
Yapay zeka modellerinin etik sınırları ve içerik denetimi konusundaki yetersizlikleri, ciddi yasal ve toplumsal sonuçlara yol açabilecek büyük riskler barındırıyor.