Üretken yapay zeka sınır ötesi baskı ve gözetimi artırıyor

Anthropic Tehdit İstihbaratı ekibinin yayımladığı rapor, otoriter rejimlerin yurt dışındaki muhalifleri ve azınlıkları hedef almak için büyük dil modellerini kullandığını ortaya koydu. Çin bağlantılı aktörlerin Suriye'deki Uygurları takip etmek ve yerel lehçelerde muhbir devşirmek amacıyla Claude modelinden yararlandığı belirlendi. Modelin parçalı dijital ayak izlerini hedefli istihbarata dönüştürdüğü ve sınır ötesi gözetim operasyonlarının maliyetini ciddi oranda düşürdüğü kayıtlara geçti.

Yayımlanan raporda İran ve Çin kaynaklı farklı operasyonlar da belgelendi. Aktörler, modelleri yalnızca çeviri için değil, aynı zamanda operasyon kılavuzları hazırlamak, sosyal ağları haritalandırmak ve gözetim yazılımları geliştirmek amacıyla kullandı. Mali'de bir güvenlik yüklenicisinin Claude desteğiyle 25 milyon SIM kartı izleyen bağımsız bir kitlesel gözetim ürünü geliştirdiği ve bu sistemin yerel modeller üzerinden çalıştırıldığı aktarıldı. Sistemin yerelde bağımsız çalışması nedeniyle hesap kapatma işlemlerinin yazılımın sahada kullanımını durduramadığı bildirildi.

Uzmanlar, sınır ötesi dijital baskının iç güvenlik tehditlerinden ayrı bir risk kategorisi olarak ele alınması gerektiğini belirtti. Yapay zeka şirketlerine vaka raporlarını kamuoyuyla paylaşma, hedef alınan toplulukları bilgilendirme ve adli süreçler için dijital kanıtları koruma çağrısı yapıldı. Önleyici filtrelerin aşılmasını engellemek için konum belirleme ve sosyal medya tarama gibi şüpheli iş akışı kombinasyonlarının erken aşamada tespit edilmesi gerektiği kaydedildi.