Yapay zeka ile çıplaklık üreten uygulamalar ebeveyn denetimlerini aşıyor

Tech Transparency Project adlı dijital haklar örgütü, Apple ve Google uygulama mağazalarındaki ebeveyn denetimlerinin yapay zeka tabanlı çıplaklık uygulamalarını engellemekte yetersiz kaldığını ortaya koydu. Araştırmacılar, 13 yaşında kullanıcılar adına açtıkları test hesaplarıyla mağazalarda arama yaptı ve kişilerin fotoğraflarını rızaları dışında çıplak hale getiren 135 farklı uygulamayı cihazlarına indirmeyi başardı. Platformların içerik politikalarında bu tür araçları açıkça yasaklamasına rağmen söz konusu yazılımlar filtreleri geçmeye devam ediyor.

Rapor, geliştiricilerin yaş sınırlarını kendilerinin beyan etmesi nedeniyle cinsel içerikli birçok uygulamanın mağazalarda 4 veya 9 yaş ve üzeri için uygun olarak etiketlendiğini gösterdi. Bu durum, ebeveyn kontrolü devrede olan hesapların dahi onay mekanizmasına takılmadan bu yazılımlara erişmesini mümkün kıldı. Testlerde ebeveyn denetimi tanımlanmış Apple hesabıyla 24, benzer durumdaki Google hesabıyla ise 51 zararlı uygulama doğrudan yüklendi. Hatta yetişkin uyarısı veren bazı uygulamalarda sistem, kayıtlı yaşın 13 olmasına bakılmaksızın sadece kullanıcının 17 yaşından büyük olduğunu beyan etmesine izin verdi.

Araştırma sonuçlarının paylaşılmasının ardından her iki şirket ihlalde bulunan uygulamaları kaldırdığını ve arama terimlerini kısıtladığını duyurdu. Apple, geliştiricilere rıza dışı mahrem görselleri önceden engelleme zorunluluğu getirdiğini açıkladı. Ancak araştırmacılar, mağazadan kaldırılan uygulamaların önceden yüklendiği cihazlarda sorunsuz şekilde çalışmayı sürdürdüğünü ve aktif aboneliklerin çekilmeye devam ettiğini belirterek mevcut denetim mekanizmalarının yetersizliğine işaret etti.