Anthropic ve Accenture yapay zeka denetimi için ortaklık kurdu
Öne çıkanlar
- Anthropic ve Accenture, bağımsız denetim kapasitesi için 5 yılda en az 1 milyar dolar yatırım yapacak.
- Accenture'a bağlı Faculty ekibi, Anthropic çalışanlarıyla eşdeğer şirket içi erişim yetkisiyle denetim yürütecek.
- Ortaklık münhasır olmayıp iki şirket de farklı paydaşlarla benzer denetim süreçleri gerçekleştirebilecek.
Yapay zeka şirketi Anthropic, sınır modellerin güvenliğini bağımsız olarak denetlemek amacıyla danışmanlık devi Accenture ile ortaklık kurduğunu açıkladı. Bu iş birliği kapsamında Accenture bünyesindeki Faculty ekibi, Anthropic içine yerleşerek modellerin kırmızı takım testlerini, hizalama değerlendirmelerini ve güvenlik önlemlerini doğrudan içeriden denetleyecek. İki şirket, bu kapasiteyi geliştirmek amacıyla önümüzdeki 5 yıl içinde en az 1 milyar dolar yatırım yapmayı planlıyor.
Yerleşik değerlendirme modeli uyarınca denetçiler, bir şirket çalışanı gibi erişim yetkisine sahip olacak. Bu sayede modellerin eğitim süreçlerini izleyebilecek, geliştirme kararlarını denetleyebilecek ve Anthropic çalışanlarıyla doğrudan görüşebilecek. Dış denetim yöntemlerinden farklı işleyen bu mekanizma, olası güvenlik açıklarını tespit etmeyi, verilen güvenlik taahhütlerinin doğrulanmasını ve risklerin kamuoyuna daha şeffaf bir şekilde aktarılmasını sağlamayı amaçlıyor.
Anthropic, bağımsız denetçilerin şirketin güvenlik sorumluluğunu devralmadığını, yalnızca hesap verebilirliği doğrulanabilir kıldığını belirtti. İş birliğinin münhasır olmadığını aktaran şirket, METR gibi kâr amacı gütmeyen kuruluşlarla da benzer pilot çalışmalar için görüşmeler yürüttüğünü ve ilerleyen haftalarda yeni bağımsız değerlendiricilerle anlaşmalar duyuracağını bildirdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.