Meta platformlarında çocuk fotoğraflarını kullanan yapay zeka reklamları yayımlandı
Öne çıkanlar
- TTP araştırması, Meta platformlarında çocuk istismarı materyali barındıran 332 reklam tespit etti.
- Reklamlarda gerçek çocukların internetteki fotoğrafları yapay zeka ile istismar videolarına dönüştürüldü.
- Meta bildirimlere rağmen reklamların bir kısmını günlerce yayından kaldırmadı.
Tech Transparency Project (TTP) tarafından yayımlanan araştırma, Meta şirketinin Facebook ve Instagram platformlarında çocuk istismarı materyali içeren 332 reklamı tespit etmekte başarısız olduğunu gösterdi. Bu reklamların önemli bir kısmında, Çin merkezli yapay zeka araçları ve kişilerin fotoğraflarını izinsiz şekilde çıplak hale getiren uygulamalar tanıtıldı. İncelenen reklamlarda Avrupalı bir hanedan üyesi çocuğun ve popüler bir Instagram kullanıcısının gerçek fotoğraflarının yapay zeka ile istismar içerikli videolara dönüştürüldüğü belirlendi.
Meta, yeni denetim sistemlerini devreye aldığını duyurmasına rağmen söz konusu reklamların haftalarca yayında kalmasına engel olamadı. TTP ve Wired tarafından bildirilen içeriklerin kaldırılması sürecinde gecikmeler yaşandığı, bazı birebir kopya reklamların ise ilk aşamada platform kurallarını ihlal etmediği gerekçesiyle yayında tutulduğu aktarıldı. İncelemeler, reklamların sahte işletme hesapları ve Çin'deki resmi reklam aracısı ortaklar üzerinden sisteme yüklendiğini ortaya koydu.
Reklamların Avrupa Birliği ve Birleşik Krallık başta olmak üzere on binlerce kullanıcıya ulaştığı kaydedildi. ABD'deki eyalet başsavcıları ile senatörler Meta yönetimine yönelik inceleme ve uyarı süreçleri başlatırken Avustralya internet düzenleme kurumu da şirketten üst düzey açıklama talep etti. Meta sözcüsü çocuk istismarına kesinlikle izin vermediklerini, reklamların kaldırıldığını ve toplam reklam harcamasının 5 bin doların altında kaldığını açıkladı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.