Amazon.com Inc., yapay zeka modellerini geliştirmek için topladığı verilerde geçen yıl yüz binlerce çocuk cinsel istismarı materyali (CSAM) tespit ettiğini bildirdi. Şirket, bu içeriği modellerini eğitmeden önce kaldırmış olsa da, çocuk güvenliği yetkilileri Amazon'un materyalin kaynağı hakkında bilgi vermediğini ve bunun kolluk kuvvetlerinin failleri bulmasını ve mağdurları korumasını engelleyebileceğini belirtiyor. Bu bulgular daha önce kamuoyuna açıklanmamıştı.
Geçen yıl boyunca, Amazon yapay zeka eğitim verilerinde bu tür materyalleri tespit ederek Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) rapor etti. Kongre tarafından çocuk cinsel istismarı ihbarlarını toplamak ve kolluk kuvvetleriyle paylaşmak üzere kurulan NCMEC, son zamanlarda özellikle yapay zeka ürünleri ve geliştirilmesiyle ilgili raporların sayısını takip etmeye başladı. 2025 yılında NCMEC, bu yapay zeka ile ilgili raporlarda en az on beş kat artış gördü ve "büyük çoğunluğu" Amazon'dan geldi. Amazon'un bu verileri nasıl topladığı ve filtreleme süreçlerinde neden bu kadar yüksek miktarda CSAM'e rastlandığı soruları, yapay zeka geliştirme etiği ve veri güvenliği konularında ciddi endişeler yaratıyor.
Yapay zeka sistemlerinin eğitildiği veri setlerinin güvenliği ve içeriği, etik ve yasal sorumluluklar açısından kritik öneme sahiptir.