Yazar AI güvenliği çevresini Berkeley merkezli olmakla eleştirdi
Öne çıkanlar
- Yazar, Yudkowsky’nin MIRI ve LessWrong üzerinden AI safety söylemini etkilediğini savundu.
- Metin, OpenAI ve Anthropic çevreleriyle Effective Altruism kuruluşları arasında bağlantılar bulunduğunu öne sürdü.
- Yazar, yapay zekanın insanlığı yok edeceği senaryosunun politika tartışmalarını yönlendirdiğini iddia etti.
- Yazıdaki cinsel tarikat ve finansman suçlamaları bağımsız kaynaklarla doğrulanmadı.
Yazar, Berkeley merkezli bazı rasyonalist ve Effective Altruism çevrelerinin yapay zeka güvenliği tartışmalarını aşırı etkilediğini savundu. Yazı, bu grupların Eliezer Yudkowsky’nin fikirleri etrafında şekillendiğini ve kamu politikalarında yeterince sorgulanmadan rol aldığını öne sürdü. Yazar, değerlendirmelerinin kişisel görüş olduğunu belirtmese de metin boyunca Yudkowsky ve çevresindeki kişiler hakkında ağır, doğrulanmamış suçlamalar yöneltti.
Metne göre Yudkowsky’nin MIRI ve LessWrong üzerinden yaygınlaştırdığı “AI alignment”, “AI safety” ve “paperclip maximizer” kavramları, OpenAI, Anthropic ve Effective Altruism hareketindeki bazı aktörlerin düşüncelerini etkiledi. Yazar, bu etkinin DeepMind’ın kuruluşundan ABD’deki yapay zeka politikası tartışmalarına kadar uzandığını iddia etti. Ayrıca Anthropic yöneticileri, çeşitli kâr amacı gütmeyen kuruluşlar ve politika danışmanları arasındaki finansman, istihdam ve kişisel bağlantıların bağımsızlık konusunda soru işaretleri oluşturduğunu ileri sürdü.
Yazar, söz konusu çevrenin yapay zekanın hızla kontrolden çıkarak insanlığı yok edeceği fikrine odaklandığını ve bu yaklaşımın düzenleme tartışmalarını daralttığını savundu. Yudkowsky’nin yapay zeka araştırmalarını durdurma görüşünün, daha ölçülü görünen politika önerilerinin arkasındaki temel hedef olduğunu öne sürdü. Yazının son bölümünde rasyonalist toplulukların grup evleri, ortak etkinlikler ve kapalı sosyal ağlar üzerinden örgütlendiği iddia edildi; ancak bu iddialar için bağımsız doğrulama veya karşı görüş sunulmadı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.