Yapay zeka sohbet robotlarının (ChatGPT, Grok, Gemini gibi) kaynakları uydurma eğilimi, kütüphanecilerin iş yükünü önemli ölçüde artırıyor ve onları yoruyor. Scientific American'ın haberine göre, kütüphaneciler, var olmayan kitap ve makale talepleriyle başa çıkmaktan yorgun düşmüş durumda. Virginia Kütüphanesi'nden Sarah Falls, e-posta yoluyla gelen referans sorularının yaklaşık %15'inin yapay zeka tarafından üretildiğini ve sıkça sahte alıntılar içerdiğini belirtiyor. Daha da endişe verici olanı, insanlar bir kaydın mevcut olmadığını açıkladıklarında kütüphanecilere inanmak yerine, güvenilir bilgi bulma konusunda uzmanlaşmış insanlara kıyasla sohbet robotlarına daha çok güveniyorlar.
Uluslararası Kızılhaç Komitesi (ICRC) bile "Önemli duyuru: Yapay zeka tarafından oluşturulan arşiv referansı" başlıklı bir açıklama yayınlayarak bu duruma dikkat çekti. ICRC, bir referansın bulunamamasının bilgi sakladıkları anlamına gelmediğini, bunun eksik alıntılar, başka kurumlarda saklanan belgeler veya giderek artan bir şekilde yapay zeka kaynaklı halüsinasyonlar olabileceğini vurguladı. Geçtiğimiz yıl, yapay zeka tarafından oluşturulan sahte kitap ve dergi makaleleriyle ilgili birçok örnek yaşandı. Örneğin, bir yazar Chicago Sun-Times için hazırladığı okuma listesindeki 15 kitaptan 10'unun aslında var olmadığını fark etti. Benzer şekilde, Robert F. Kennedy Jr.'ın komisyon raporundaki alıntıların en az yedisi de gerçek dışı çıktı. Bu durum, yapay zekanın bilgi doğrulama süreçlerinde yarattığı ciddi zorlukları gözler önüne seriyor.
Yapay zeka destekli sohbet robotlarının ürettiği sahte referanslar ve uydurma kaynaklar, kütüphanecilerin iş yükünü artırarak ve bilgi doğrulama süreçlerini karmaşıklaştırarak bilgiye erişimde ciddi güven sorunları yaratıyor.