2024 yılında EFF, polisin yapay zeka kullanarak rapor yazmasının potansiyel sorunlarına dikkat çekti. O zamandan beri bu teknoloji, özellikle Axon'un Draft One aracıyla hızla yayıldı. Axon'un, ABD'deki polis departmanlarına en büyük vücut kamerası sağlayıcısı olması, ürünlerini bir araya getirerek polisin ihtiyacından veya kamuoyunun rahat edebileceğinden daha fazla teknoloji satın almasını kolaylaştırdığı eleştirilerini beraberinde getiriyor.
Yapay zeka tarafından yazılan polis raporları hala kanıtlanmamış, şeffaf değil ve sorumsuzluk taşıyor; özellikle de ceza adalet sisteminin insanların özgürlüğü hakkında karar verirken bu raporlara dayanması düşünüldüğünde. Washington eyaletindeki King County savcılık ofisi, polisin yapay zeka kullanılarak yazılmış raporları kabul etmeyi yasakladı. Savcılık, teknolojideki gelişmelere karşı olmasa da, mevcut ürünlerin güvenilirliği konusunda ciddi endişeler taşıdıklarını belirtti ve bu raporların güvenilir hale gelene kadar kabul edilmeyeceğini açıkladı.
EFF'nin raporuna göre, Axon'un Draft One aracı şeffaflığı engellemek üzere tasarlandı. Polis memurları vücut kameralarından gelen sesleri sisteme yüklüyor, sistem bir rapor taslağı oluşturuyor ve memur bunu düzenleyip dışa aktarıyor. Ancak bu işlem sırasında Draft One, ilk taslağı siliyor. Bu durum, raporun hangi kısımlarının yapay zeka tarafından, hangi kısımlarının ise memur tarafından yazıldığına dair herhangi bir kanıtın ortadan kalkmasına neden oluyor. Bu tasarım, bir memurun mahkemede yalan söylediği (mahkeme ifadesi ile önceki raporu arasındaki çelişkiyle ortaya çıktığında) durumlarda, çelişkili kısımları 'yapay zeka yazdı' diyerek sorumluluktan kaçınmasını kolaylaştırıyor. Axon'un ürün müdürü, orijinal taslağın 'müşterileri ve avukatlık ofisleri için daha fazla açıklama baş ağrısı yaratmamak' amacıyla saklanmadığını açıkça belirtiyor.
Yapay zeka destekli polis raporlarının şeffaflık eksikliği, ceza adalet sisteminde hesap verebilirlik ve güvenilirlik açısından ciddi riskler barındırıyor.