Meta yapay zeka ile üretilen çocuk istismarı reklamlarını engelleyemedi

Tech Transparency Project (TTP) tarafından yayımlanan rapor, Meta'nın son 10 ayda Facebook ve Instagram platformlarında yapay zeka ile üretilmiş çocuk cinsel istismarı görüntüleri içeren yüzlerce ücretli reklam yayımladığını ortaya koydu. Washington merkezli kuruluş, tespit ettiği 332 reklamın 84'ünün Hindistan'da gösterildiğini belirledi. Bu reklamların 78'i, Hindistan hükümetinin Meta'ya platformlarındaki çocuk istismarı materyallerini kaldırması yönünde verdiği resmi talimatın ardından yayımlandı.

TTP, reklamların büyük bölümünün gerçek çocuk fotoğraflarını yapay zeka araçlarıyla cinsel içerikli videolara dönüştürdüğünü ve kullanıcıları çoğunlukla Çinli geliştiricilere ait görüntü işleme uygulamalarına yönlendirdiğini kaydetti. Kuruluş, Meta'nın kendi şikayet mekanizması üzerinden bildirdiği 55 reklamdan 43'ü için şirketin 'reklam standartlarını ihlal etmediği' yanıtını verdiğini açıkladı. Araştırmacılar, Meta'nın Çin'deki resmi reklam ajansı ortaklarının da bu yasa dışı kampanyaların yayılmasında rol oynadığını belirledi.

Meta yaptığı açıklamada çocuk istismarına veya soyma uygulamalarına kesinlikle tolerans göstermediğini, şüpheli içeriklerin Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezine (NCMEC) bildirildiğini savundu. Şirket, bayraklanan reklamların çoğunun 200'den az gösterim aldığını ve toplam reklam harcamasının 5 bin doların altında kaldığını bildirdi. Hindistan'daki çocuk hakları örgütleri ise Meta'nın yerel kolluk kuvvetlerine doğrudan bildirimde bulunmayarak ülke yasalarını çiğnediği gerekçesiyle Yüksek Mahkemeye başvurdu.