Meta platformlarında yapay zeka ile üretilen yüzlerce istismar reklamı tespit edildi

Tech Transparency Project adlı sivil toplum kuruluşunun araştırmacıları, Meta bünyesindeki Facebook, Instagram ve Threads platformlarında çocuk cinsel istismarı materyali içeren 250'den fazla yeni reklam yayımlandığını belirledi. Geçen yılın sonundan bu yana benzer nitelikte 350'den fazla istismar içerikli video reklam tespit edilirken, yeni reklamların bazılarında gerçek çocukların ve bir Avrupa kraliyet ailesi mensubu reşit olmayanın fotoğraflarının yapay zekayla cinsel içerikli videolara dönüştürüldüğü görüldü. Reklamların çoğu kullanıcıları Apple ve Google uygulama mağazalarındaki yüz değiştirme ve soyma uygulamalarına yönlendirdi.

Meta, zararlı reklamları tespit etmek amacıyla geliştirdiği yapay zeka araçlarını devreye aldığını duyurmuştu; ancak araştırmacılar yeni güvenlik sisteminin etkili olmadığını ve şikayet edilen bazı reklamların kaldırılmasının bir haftayı bulduğunu kaydetti. Reklam kütüphanesi verilerine göre bu içerikler Avrupa Birliği genelinde 29 binden fazla, Birleşik Krallık'ta ise yaklaşık 7 bin hesaba gösterildi. Reklam verenlerin tespit mekanizmalarını atlatmak için görüntüleri bulanıklaştırma veya hafifçe değiştirme gibi taktikler uyguladığı açıklandı.

Meta sözcüsü Tracy Clayton, istismar içeriklerine ve soyma uygulamalarına kesinlikle tolerans göstermediklerini, reklamların çoğunun düşük erişimde kalarak kaldırıldığını ve verilerin ilgili çocuk güvenliği makamlarına bildirildiğini söyledi. Gelişmeler üzerine ABD'li senatörler, Michigan ve Florida başsavcılıkları ile Avustralya internet düzenleme kurumu Meta hakkında inceleme başlattıklarını duyurdu. Apple ve Google da politikalara aykırı hareket eden ilgili uygulamaları mağazalarından kaldırdı.