Araştırmacılar metin gömmelerini eşleşmesiz çeviren yöntem geliştirdi
Öne çıkanlar
- Metin gömmeleri eşleştirilmiş veri veya model kodlayıcısı olmadan farklı uzaylara aktarıldı.
- Farklı mimari ve boyuttaki modeller arasında yüksek kosinüs benzerliği elde edildi.
- Yalnızca vektörlere erişen saldırganların belgelerden hassas bilgi çıkarabildiği saptandı.
Araştırmacılar, metin gömmelerini herhangi bir eşleştirilmiş veri, kodlayıcı veya önceden tanımlanmış eşleşme kümesi olmadan bir vektör uzayından diğerine aktaran denetimsiz bir yöntem geliştirdi. arXiv üzerinden paylaşılan çalışmada, gömmelerin Platonik Temsil Hipotezi çerçevesinde evrensel bir örtük anlamsal temsile dönüştürüldüğü açıklandı. Geliştirilen yaklaşım, farklı mimarilere, parametre sayılarına ve eğitim kümelerine sahip yapay zeka modelleri arasında yüksek kosinüs benzerliği yakaladı.
Farklı modellerin vektör uzayları arasındaki geometrik uyumu temel alan yöntem, kaynak metne veya kullanılan modelin iç yapısına ihtiyaç duymadan vektör transferini mümkün kılıyor. Yapılan deneyler, tamamen bağımsız eğitilmiş modellerin gömme uzaylarının evrensel bir anlamsal geometriyi paylaştığını somut verilerle ortaya koydu. Çeviri süreci, farklı vektör boyutları ve dağılımları arasında anlamsal bütünlüğü koruyarak doğrudan eşleme sağladı.
Çalışma, vektör tabanlı veri tabanlarının güvenliğine yönelik riskleri de gözler önüne serdi. Araştırmacılar, yalnızca gömme vektörlerine erişebilen bir saldırganın kaynak belgelerdeki hassas bilgileri çıkarabileceğini tespit etti. Elde edilen vektörlerin başka bir uzaya çevrilmesiyle metin sınıflandırması ve nitelik çıkarımı yapılabildiği, bu durumun veri güvenliği protokollerinde yeni önlemler gerektirdiği vurgulandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.