EFF belgeleri Medicare yapay zeka uygulamasındaki sorunları ortaya çıkardı
Öne çıkanlar
- EFF, Medicare'in WISeR adlı yapay zeka programına ilişkin 800 sayfayı aşkın yeni resmî belge paylaştı.
- CMS, ilk üç ay içinde altı hizmet sağlayıcı firmanın en az dördüne uyarı mektubu gönderdi.
- Programın altı ay gibi kısa sürede devreye alınması yaygın teknik arızalara ve haksız tedavi retlerine yol açtı.
Elektronik Sınır Vakfı (EFF), ABD hükümetine karşı açtığı dava sonucunda Medicare bünyesindeki yapay zeka destekli ön onay programına ait 800 sayfayı aşkın yeni resmi kaydı kamuoyuna açıkladı. Belgeler, Wasteful and Inappropriate Service Reduction (WISeR) adlı modelin aceleye getirilen uygulama sürecinde ciddi aksaklıklar yaşandığını gösterdi. Sistem, tıbbi hizmet taleplerini değerlendirmek için altı özel şirketin geliştirdiği algoritmaları kullanıyor.
Medicare ve Medicaid Hizmetleri Merkezleri (CMS), programın ilk üç ayında altı yükleniciden en az dördüne resmi uyarı mektupları ve düzeltici eylem planı talepleri iletti. Resmî yazışmalar; onay sürelerinin aşılması, teknik arızalar, hatalı ret kararları ve yetersiz müşteri hizmetleri gibi operasyonel sorunları ortaya koydu. Şirketler ise programın duyurulduktan sadece altı ay sonra hayata geçirilmesi nedeniyle teknik sistemleri kurmakta zorlandıklarını savundu.
EFF, yapay zeka sistemlerinin insan denetimine tabi tutulması kuralının pratikte yetersiz kaldığını ve klinisyenlerin otomatik kararları doğrudan onaylama eğilimine girdiğini belirtti. Vakıf, özel şirketlerin kullandığı eğitim verileri ve ret teşvikleri konusunda şeffaflık bulunmadığına dikkat çekerek Kongre'yi kamu sağlık kararlarındaki otomatik sistemlere yönelik yasal sınırlamalar getirmeye çağırdı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.