Online alışveriş platformları, iade taleplerinin meşruiyetini doğrulamak için uzun süredir müşteriler tarafından gönderilen fotoğraflara güveniyor. Ancak üretken yapay zeka (AI) araçları, bu sistemi bozmaya başladı. Dolandırıcılar, hasarlı ürünleri taklit etmek için yapay zeka tarafından oluşturulmuş görseller ve videolar kullanarak iade almayı başarıyorlar. Çin'deki sosyal medya platformu RedNote'ta, e-ticaret satıcıları ve müşteri hizmetleri temsilcileri, yapay zeka destekli sahte iade taleplerinden şikayet eden düzinelerce gönderi paylaştı. Örneğin, bir müşteri yırtık bir çarşafın fotoğrafını gönderdi ancak kargo etiketindeki Çince karakterler anlamsızdı. Başka bir olayda ise, seramik bir fincanın kağıt gibi yırtılmış çatlaklara sahip olduğu bir görselle iade talep edildi.
Bu tür dolandırıcılıkların en çok kötüye kullanıldığı ürün kategorileri arasında taze gıda ürünleri, düşük maliyetli güzellik ürünleri ve seramik fincanlar gibi kırılgan ürünler bulunuyor. Satıcılar genellikle bu tür ürünler için iade yapmadan önce ürünün geri gönderilmesini talep etmiyor, bu da onları iade dolandırıcılıklarına karşı daha savunmasız hale getiriyor. Çin'deki Douyin platformunda canlı yengeç satan Gao Jing adlı bir satıcı, müşterinin gönderdiği yapay zeka destekli sahte videolar sayesinde bir dolandırıcılığı ortaya çıkardı. Videolarda yengeçlerin anormal pozisyonlarda ölü olduğu ve hatta birinin dokuz bacağı olduğu görülüyordu. Gao'nun polise bildirmesi üzerine, videoların sahte olduğu doğrulandı ve alıcı sekiz gün gözaltına alındı. Bu olay, yapay zeka destekli iade dolandırıcılığının düzenleyici bir tepkiyi tetikleyen ilk bilinen vakası oldu.
Bu sorun sadece Çin'e özgü değil. New York merkezli dolandırıcılık tespit şirketi Forter, yılın başından bu yana iade taleplerinde kullanılan yapay zeka ile düzenlenmiş görsellerin %15'ten fazla arttığını ve küresel olarak yükselmeye devam ettiğini tahmin ediyor. Forter CEO'su Michael Reitblat, bu eğilimin 2024 ortalarında başladığını ancak görüntü oluşturma araçlarının yaygınlaşması ve kullanımının kolaylaşmasıyla son bir yılda hız kazandığını belirtiyor. Yapay zeka araçlarının her şeyi mükemmel yapmasına gerek kalmadan bile dolandırıcılar için engelleri düşürdüğü ve e-ticaret güvenliği için yeni bir tehdit oluşturduğu vurgulanıyor.
Yapay zeka destekli görüntü ve video üretim araçlarının yaygınlaşması, e-ticaret platformlarında sahte iade talepleriyle yeni bir dolandırıcılık dalgasına yol açarak çevrimiçi alışverişin güvenliğini tehdit ediyor.