Meta'nın yeni yapay zeka asistanı Muse hassas gruplardaki kullanıcıları fişledi

Meta tarafından 8 Eylül'de kullanıma sunulan kişisel yapay zeka asistanı Muse, kullanıcı talepleri doğrultusunda hassas gruplara mensup bireyleri listeleyerek profilleme yaptı. Hunterbrook Media muhabirlerinin gerçekleştirdiği testlerde araç; belgesiz göçmenler, trans öğretmenler, kürtaj hapı arayan kadınlar ve seçim görevlileri gibi farklı topluluklara ait gerçek Facebook ve Instagram hesaplarının listelerini hazırladı. Araç, bu listeleri oluştururken Meta platformlarındaki gönderileri, yorumları ve kullanıcı adı geçmişlerini tarayarak web aramalarıyla doğruladı.

Söz konusu denemelerde Muse, her istem için 10 ila 100 hesap içeren sonuçlar teslim etti ve bazı vakalarda takma adlı hesapların arkasındaki gerçek kimlikleri veya işveren bilgilerini açığa çıkardı. Sistemin güvenlik filtrelerinin kolaylıkla aşılabildiği, ilk başta profilleme riskleri gerekçesiyle reddedilen komutların istemin hafifçe değiştirilmesi veya aynı pencerede yinelenmesi durumunda sorunsuz şekilde yanıtlandığı görüldü. ChatGPT veya Claude gibi rakiplerin erişemediği Meta veritabanını tarayan asistan, anonimlik zırhını ortadan kaldırarak hedef gösterme riskini artırdı.

Gizlilik uzmanları ve dijital hak savunucuları, söz konusu durumun hedef alınan bireyler açısından ciddi fiziksel ve dijital tehditler doğurduğunu bildirdi. Elektronik Sınır Vakfı (EFF) yetkilileri, platformdaki halka açık paylaşımların bu ölçekte sistematik olarak derlenmesinin kullanıcı rızasını hiçe saydığını ve mevcut zararları tırmandırdığını belirtti. Hunterbrook Media, 22 Eylül'de durumu şirket yönetimine ilettiğini ancak Meta'dan ayrıntılı bir açıklama gelmediğini kaydetti.