Anthropic bağımsız denetçilere şirket içi çalışan düzeyinde erişim açtı
Öne çıkanlar
- Altı METR uzmanı şirket donanımları ve iç risk değerlendirme araçlarına erişim aldı.
- Anthropic hazırlanan denetim raporlarını veto etme hakkına sahip bulunmuyor.
- Denetçi erişimleri için kapsam ve yetki sınırlarını belirleyen üç kademeli bir yapı kuruldu.
Yapay zeka şirketi Anthropic, güvenlik denetimleri kapsamında kâr amacı gütmeyen araştırma kuruluşu METR bünyesindeki altı uzmana şirket içi çalışan yetkilerine denk erişim hakkı sağladı. Kuruluşla yapılan işbirliği doğrultusunda METR uzmanları şirket donanımlarını, ofis alanlarını ve iç risk değerlendirme sistemlerini kullanıyor. Şirket, bu adımla kamuya açık paylaşılamayan hassas teknik ayrıntıların bağımsız üçüncü taraflarca derinlemesine incelenmesini hedefliyor.
Anthropic bünyesinde görev alan denetçiler, müşteri verileri, avukat gizliliği kapsamındaki konular ve model mimarisi gibi belirli sınırlı alanlar dışındaki tüm iç süreçlere erişebiliyor. Denetimi yürüten METR, hazırladığı risk analizlerini ve değerlendirme sonuçlarını bağımsız olarak yayımlama hakkına sahip bulunuyor. Anthropic yayımları veto edemiyor ancak yalnızca önceden belirlenmiş dar kapsamlı gizli bilgilerin karartılmasını talep edebiliyor.
Şirket, bağımsız değerlendirme süreçlerini yönetmek amacıyla üç kademeli bir erişim modeli kurguladı. Bu sistemde SecureBio ilk kademede kimyasal ve biyolojik silah risklerini incelerken, METR üçüncü kademe kapsamında en geniş yetkilerle çalışıyor. Anthropic ayrıca Accenture, Faculty ve Hugging Face gibi kuruluşlarla da model güvenliği ve kırmızı takım testlerine dönük benzer ortaklık görüşmelerini sürdürüyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.