Yapay zeka üretimi sahte makaleler bilimsel yayıncılığı tehdit ediyor
Öne çıkanlar
- Benjamin Skuse, yapay zekaya ürettirdiği sahte makalelerle IEEE'nin hakem ve denetim sistemlerini test etti.
- Mevcut tespit araçları ücretsiz modellerin hatalarını yakalarken, gelişmiş modeller daha inandırıcı metinler sunuyor.
- Wikipedia gönüllüleri kurdukları özel projeyle platformdaki yapay zeka üretimi içerikleri temizlemeye çalışıyor.
Yapay zeka araçlarıyla üretilen düşük kaliteli ve sahte içerikler, bilimsel yayıncılıkta ve bilgi tabanlarında güven krizine yol açıyor. Uygulamalı matematik doktoru Benjamin Skuse, büyük dil modelleri kullanarak otomatik makaleler hazırladı ve bunları IEEE'nin denetim sistemlerine göndererek hakemli yayın süreçlerinin dayanıklılığını test etti. Deney, hiçbir insan müdahalesi olmadan tamamen algoritmalarla üretilen ve ilk bakışta bilimsel görünen metinlerin ne kadar kolay yayıma sunulabildiğini gösterdi.
IEEE bünyesindeki hakem değerlendirmeleri ve araştırma doğruluğu tespit programları, ücretsiz araçlarla üretilen basit hataları şimdilik yakalayabiliyor. Ancak gelişmiş büyük dil modelleri daha inandırıcı sahte içerikler ürettikçe, yayıncılar ile tespit yazılımları arasındaki mücadele bir yarışa dönüşüyor. Benzer bir sorun, insan üretimi bilgi kaynağı niteliğini korumaya çalışan Wikipedia'da da yaşanıyor; WikiProject AI Cleanup adlı gönüllü topluluk, platformdaki yapay zeka içeriklerini tespit edip silmek için kısıtlı imkanlarla çalışıyor.
Uzmanlar, bilimsel literatürün ve doğrulanmış olguların güvenilirliğini yitirmesinin toplumun gerçeklik algısını zedeleyeceğini belirtiyor. Doğrulama mekanizmalarının yetersiz kalması halinde, insan bilgisini koruyan kurumların güvenilirliği sarsılıyor. İlerleyen süreçte yapay zekanın hem araştırma yapıp hem de makale yazdığı bir düzende, bilimsel üretim döngüsünün insan denetiminden tamamen kopmasından endişe ediliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.