Büyük bankalar yapay zeka aracılığıyla alışverişin risklerine dikkat çekti
Öne çıkanlar
- Altı büyük küresel banka, otonom yapay zeka alışverişlerinin dolandırıcılık ve veri güvenliği risklerini artırdığını bildirdi.
- Ajanların müşteri çıkarı yerine yüksek komisyon veren ürünleri veya ödeme yöntemlerini öne çıkarabileceği açıklandı.
- Meta'nın alışveriş yetenekli yapay zeka asistanı Muse üzerinde kapatılan sıfır gün açığı güvenlik kaygılarını somutlaştırdı.
Aralarında Bank of America ve Capital One'ın da bulunduğu altı küresel banka, salı günü yayımladıkları raporda otonom yapay zeka araçlarıyla yapılan alışverişlerin şeffaflık, güvenlik, gizlilik, veri koruması, tüketici tercihi ve birlikte çalışabilirlik alanlarında ciddi riskler barındırdığını açıkladı. Bankalar, yapay zeka ajanlarına verilen özerklik arttıkça bu tehditlerin de büyüyeceğini bildirdi. Geliştiriciler ve ödeme sistemleri alışveriş sürecini baştan sona otomatik hale getirecek sohbet botları tasarlarken, tüketicilerin finansal varlıklarına doğrudan erişim izni verme konusunda çekimser davrandığı kaydedildi.
Raporda yapay zeka ajanlarının müşteri çıkarları yerine komisyon oranları ya da düşük işlem maliyetleri gibi teşviklere göre belirli ürünleri veya ödeme yöntemlerini öne çıkarabileceği vurgulandı. Bu tür otonom ticaret sistemlerinin dolandırıcılık, sahtecilik ve müşteri itirazlarını artırma potansiyeli taşıdığı ifade edildi. Nitekim Meta'nın Muse adlı yeni yapay zeka asistanında sıfır gün açığı tespit edilip kapatılırken, Amazon da Muse'un platformda kimliğini doğrulamadan işlem yaptığını belirterek bu aracın kullanımının durdurulmasını talep etti.
Bankalar otonom alışveriş konseptini tamamen reddetmeyerek bu teknolojinin ileride ana akım bir işlem yöntemi haline gelebileceğini belirtti. Sürecin güvenle ilerlemesi için sektörel standartların, kurumsal politikaların ve tüketiciyi koruma düzenlemelerinin hayata geçirilmesi gerektiği açıklandı. Konsorsiyum, raporda belirlenen beş temel ilkenin uygulamaya nasıl döküleceğini açıklayan ikinci bir çalışma hazırladığını duyurdu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.