GPTZero, yapay zeka tarafından üretilen metinlerdeki halüsinasyonları tespit etme konusundaki uzmanlığını kullanarak, NeurIPS 2025'e kabul edilen makalelerde 100'den fazla yeni halüsinasyon bulduğunu açıkladı. Bu bulgular, akademik yayıncılıkta yapay zeka araçlarının kullanımının getirdiği potansiyel riskleri ve referans doğruluğunun önemini bir kez daha gözler önüne seriyor. Tespit edilen halüsinasyonlar arasında, var olmayan yazarlar, sahte URL'ler ve DOI'ler, yanlış yayın tarihleri ve eksik arXiv kimlikleri gibi çeşitli yanıltıcı bilgiler yer alıyor.
Örneğin, "SimWorld: An Open-ended Simulator for Agents in Physical and Social Worlds" başlıklı bir makalede, referans verilen bir makalenin başlığı eşleşse de yazarların tamamen uydurma olduğu ve arXiv kimliğinin başka bir makaleye ait olduğu belirlendi. Benzer şekilde, "Unmasking Puppeteers: Leveraging Biometric Leakage to Expose Impersonation in AI-Based Videoconferencing" gibi makalelerde, referans gösterilen yayınların yazar veya başlık eşleşmesi bulunmadığı, hatta URL ve DOI bilgilerinin sahte olduğu ortaya çıktı. Bu tür hatalar, akademik araştırmaların güvenilirliğini ciddi şekilde zedeleyebilir ve okuyucuları yanlış yönlendirebilir.
GPTZero'nun bu çalışması, özellikle büyük dil modellerinin (LLM) referans oluşturma yeteneklerinin henüz mükemmel olmadığını ve akademik çalışmalarda dikkatli bir doğrulama sürecinin şart olduğunu gösteriyor. Araştırmacılar ve yayıncılar, yapay zeka destekli içerik üretim araçlarını kullanırken, özellikle referans ve kaynakça kısımlarında titizlikle manuel kontrol yapmanın gerekliliğini vurguluyor. Bu durum, akademik dürüstlük ve bilimsel bilginin doğruluğu açısından kritik bir uyarı niteliğindedir.
Bu tespitler, yapay zeka destekli içerik üretiminin akademik yayıncılıkta referans doğruluğu ve bilimsel güvenilirlik üzerindeki potansiyel olumsuz etkilerini açıkça ortaya koyuyor.