Homomorfik şifreleme derleyicisi HEIR yapay zeka modellerini işliyor
Öne çıkanlar
- Kredi kartı dolandırıcılığı tespit modeli, şifreli veriler üzerinde işlemciyle 2 saniyede çalıştı.
- GPU hızlandırması, şifrelenmiş öneri modeli çıkarım süresini 5 dakikadan 500 milisaniyeye düşürdü.
- Büyük modellerde kullanıcı başına gereken değerlendirme anahtarı boyutu 40 GB seviyesine ulaşıyor.
Google bünyesinde geliştirilen açık kaynaklı homomorfik şifreleme derleyicisi HEIR, programları doğrudan şifrelenmiş veriler üzerinde çalışacak şekilde derliyor. Sistem, üzerinde işlem yapılan girdiler, ara değerler veya çıktılar hakkında sunucu tarafına hiçbir bilgi sızdırmadan hesaplama yapılmasını mümkün kılıyor. Yayımlanan son teknik güncelleme ve kod deposu, projenin önceden eğitilmiş makine öğrenmesi modellerini homomorfik şifreleme arka uçlarına başarıyla derleyebildiğini somut örneklerle gösterdi.
Projeyi test etmek için sunulan kredi kartı dolandırıcılığı tespit modeli, tek çekirdekli işlemci üzerinde şifreli verilerle 2 saniyede çıkarım gerçekleştirdi. Açık metin üzerinde 0,5 milisaniyede tamamlanan bu işlem, şifreli yöntemde 4 bin katlık bir gecikmeye yol açıyor. Ancak GPU optimizasyonları bu farkı hızla kapatıyor. Örneğin öneri modellerinde işlemci üzerinde 5 dakika süren şifreli çıkarım süresi, H100 sınıfı tek bir grafik işlemcisi üzerinde 500 milisaniyeye kadar iniyor.
Sistemin yaygınlaşmasının önündeki en büyük engellerden biri anahtar yönetimi ve bellek ihtiyacı olarak öne çıkıyor. Büyük modellerde her kullanıcı için yaklaşık 40 GB boyutunda değerlendirme anahtarı gerekiyor; bu durum yüksek eşzamanlı kullanıcı barındıran servislerde maliyeti artırıyor. Bu sebeple homomorfik şifrelemenin ilk etapta büyük dil modellerinden ziyade, hem istemcinin hem de sunucunun gizlilik talep ettiği küçük ölçekli endüstriyel teşhis gibi alanlarda kullanılması hedefleniyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.