Anthropic yapay zeka modellerini doğrulamak için FlashProve sistemini duyurdu

Anthropic araştırmacıları, EPFL ve MIT gibi kurumlarla iş birliği içinde büyük dil modellerinin çıkarım süreçlerini kriptografik olarak doğrulamayı sağlayan FlashProve adlı açık kaynaklı sistemi geliştirdi. Sistem, bir yanıtın belirli bir yapay zeka modeli tarafından üretildiğini modelin özel ağırlıklarını açıklamadan kanıtlamak için sıfır bilgi ispatı (zkSNARK) teknolojisinden yararlanıyor. Kullanıcılar ve denetçiler, bu yöntem sayesinde yanıtların gerçekten taahhüt edilen modelden geldiğini, harici yönlendiricilerin modeli değiştirmediğini veya siber saldırganların veri akışına müdahale etmediğini doğrulayabiliyor.

FlashProve, 400 milyar parametreli Llama 4 Maverick modeli üzerinde 4 bit kuantizasyonla test edildi. Sistem, tek bir Nvidia H100 GPU üzerinde saniyede 110 belirteç hızında kanıt üretti. 1.024 belirteçlik bir istek için yaklaşık 19 MB boyutunda oluşturulan kanıtlar, güçlü donanıma ihtiyaç duyulmadan sıradan bir istemci işlemcisinde 17 ila 21 saniye içinde doğrulanabiliyor. Bu süreç, vLLM çıkarım kütüphanesine kıyasla GPU tarafında 70 ila 95 kat daha fazla işlem süresi gerektirmesine rağmen önceki açık kaynaklı zkSNARK sistemlerinden belirgin şekilde daha hızlı çalışıyor.

Araştırmacılar, yazılımın C++ ve Lean tabanlı doğrulayıcılarını, teknik raporunu ve protokol belgelerini Apache 2.0 lisansıyla kamuoyuna açtı. Sistem, çıkarım işlemleri bittikten sonra toplu kanıt üreten bir mimari kullanıyor ve model ağırlıklarının katman katman bellekten aktarılması sayesinde tek bir 80 GB GPU üzerinde çalışabiliyor. Proje, yapay zeka alanındaki denetimlerin güvenliğini artırmayı ve model güvenilirlik standartlarını kriptografik yöntemlerle sağlamlaştırmayı amaçlıyor.