Anthropic'in önerdiği denetçi METR çıkar çatışması tartışması yarattı
Öne çıkanlar
- Dario Amodei, METR adlı bağımsız denetçinin şirket içi çalışan gibi güvenlik testleri yapmasını önerdi.
- METR, son altı ayda dış yatırımcılardan 71 milyon dolar yeni fon topladı.
- Eleştirmenler, METR kadrosunun ve finansörlerinin Anthropic ile doğrudan bağlantılı olduğunu vurguladı.
Anthropic İcra Kurulu Başkanı Dario Amodei, yayımladığı makalede yapay zeka modellerinin güvenliğini denetlemek üzere Model Evaluation and Threat Research (METR) adlı kâr amacı gütmeyen kuruluşun şirket içine entegre edilmesini önerdi. METR bünyesindeki araştırmacıların şirket çalışanları gibi erişim hakkına sahip olmasını savunan bu plan, kuruluşun Etkili Özgecilik (Effective Altruism) hareketi ve Anthropic ile olan yakın bağları nedeniyle eleştirilerin odağına yerleşti.
METR, geçmişte Amodei'nin ev arkadaşı ve eski çalışma arkadaşı olan Paul Christiano liderliğindeki Alignment Research Center bünyesinden ayrılarak bağımsız bir yapıya dönüştü. Denetçi kuruluşun kurucusu Beth Barnes ve diğer araştırmacıların yanı sıra METR'ye kaynak sağlayan yatırımcılar arasında Anthropic'e fon sağlayan isimler de bulunuyor. METR yetkilileri yapay zeka şirketlerinden doğrudan bağış almadıklarını ve çalışanların çıkar çatışmalarını bildirmek zorunda olduğunu aktardı.
Sektör temsilcileri ve politika uzmanları, Anthropic ile aynı yatırımcı ağına ve geçmişe sahip bir yapının bağımsız denetim yapamayacağını savundu. Beyaz Saray çevreleri ve ABD Federal Ticaret Komisyonu da bu tür güvenlik iş birliklerinin rekabet hukuku açısından şüphe uyandırdığını bildirdi. OpenAI İcra Kurulu Başkanı Sam Altman ise bağımsız denetçi yaklaşımını desteklediğini ancak METR ismini anmadığını ifade etti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.