Yapay zeka ile üretilen sahte bilimsel makaleler yayıncılık sistemini zorluyor
Öne çıkanlar
- 2025 yılında yayımlanan akademik makalelerin yüzde 57'sinde büyük dil modellerinin etkisi tespit edildi.
- Ücretsiz sohbet robotlarıyla üretilen ilk sahte makale uydurma kaynaklar nedeniyle doğrulama araçlarına takıldı.
- Otonom araştırma sistemi FARS tarafından üretilen makale ön baskı kaynakları ve grafik hataları sebebiyle reddedildi.
IEEE Spectrum yazarı, bağımsız ve açık erişimli IEEE Access dergisiyle iş birliği yaparak tamamen yapay zeka tarafından üretilmiş sahte makaleleri derginin denetim mekanizmalarından geçirmeyi denedi. Deney kapsamında ilk aşamada ücretsiz ChatGPT ve Gemini modelleri kullanılarak optik solitonlar üzerine asılsız bir çalışma kurgulandı. İkinci aşamada ise FARS adlı otonom araştırma sistemiyle simülasyonları ve metni tamamen algoritmalar tarafından hazırlanan ikinci bir makale dergiye sunuldu.
İlk denemede üretilen sahte çalışma, STM Integrity Hub ve MolecularConnections gibi doğrulama araçları tarafından uydurma kaynaklar nedeniyle ilk incelemede elendi. Araçlar çalışmadaki onlarca referansın hayali olduğunu tespit etti. Otonom araştırma motoru FARS tarafından hazırlanan ikinci makale ise gerçek kaynaklar içerse de hakem denetiminden geçmemiş ön baskılara aşırı derecede dayanması ve grafiklerindeki anlamsız görsel hatalar nedeniyle derginin bütünlük engeline takıldı.
Akademik yayıncılık sektörü, yapay zeka kaynaklı sahte içeriklerin artışıyla birlikte benzeri görülmemiş bir yükle karşı karşıya kaldı. 2025 yılı verilerine göre yayımlanan bilimsel makalelerin yüzde 57'sinde büyük dil modellerinin izleri tespit edildi. Uzmanlar, gönüllü hakemlik sisteminin bu ölçekteki başvuru trafiğini denetlemekte yetersiz kaldığını ve temel yayıncılık süreçlerinin dönüştürülmesi gerektiğini kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.