Google DeepMind metin tespitini açıklanabilir kılan DetectorScope'u yayımladı
Öne çıkanlar
- DetectorScope, tespit kararlarını metin içindeki somut dilsel özniteliklerle ve gerekçelerle eşleştiriyor.
- Seyrek oto-kodlayıcılar sayesinde açıklanabilirlik seviyesi artırılırken tespit doğruluğu korunuyor.
- Araştırma kodları ve önceden eğitilmiş modeller Hugging Face üzerinden açık kaynak olarak yayımlandı.
Google DeepMind araştırmacıları, yapay zeka tarafından üretilen metinleri tespit ederken karar gerekçelerini şeffaf biçimde sunan DetectorScope adlı açık kaynaklı aracı tanıttı. Sistem, geleneksel kara kutu sınıflandırıcıların aksine her tahminini doğrulanmış dilsel özelliklerin toplamı olarak ifade ediyor. Böylece denetçiler, metnin hangi kısımlarının yapay zeka çıktısı olarak etiketlendiğini ve bu kararın hangi dil bilgisel kalıplara dayandığını doğrudan görebiliyor.
Yayımlanan çalışmada araştırmacılar, dil modelinin artık akışını seyrek oto-kodlayıcılar (SAE) ile işleyen bir kavram darboğazı mimarisi kurdu. Her bir öznitelik için doğal dilde açıklamalar üretildi ve bu açıklamaların geçerliliği test edildi. Ardından sadece doğrulama eşiğini geçen öznitelikler seyrek bir doğrusal başlık üzerinden nihai karara bağlandı. Benchmark testleri, sistemin karar sürecini şeffaflaştırırken temel nöral modellerle benzer başarı oranını koruduğunu gösterdi.
Araştırma ekibi, sistemin akademik dürüstlük veya işe alım gibi bireyleri doğrudan etkileyen kararlarda tek başına kullanılmaması gerektiği konusunda uyarıda bulundu. Hatalı pozitif sonuçların üretilebileceğine dikkat çeken geliştiriciler, kodları ve önceden eğitilmiş modelleri Hugging Face ile GitHub üzerinde Apache 2.0 lisansıyla erişime açtı. Çalışma, Ekim 2026'da EMNLP konferansında resmen sunulacak.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.