Anthropic yapay zeka gelişim hızının yavaşlatılmasını önerdi

Anthropic kurucu ortağı ve Üst Yöneticisi Dario Amodei, yayımladığı yazıda öncü yapay zeka şirketlerinin model yeteneklerini geliştirme hızını bilinçli olarak yavaşlatması gerektiğini açıkladı. Amodei, modellerin güvenlik ve uyum çalışmalarına zaman tanıyacak bir hızda ilerlemesi gerektiğini belirtti. Bu yaklaşım, Amodei'nin modellerin henüz bağımsız hareket edemeyecek kadar sınırlı olduğu dönemde yavaşlamanın anlamsız olduğunu savunduğu önceki görüşlerinden belirgin bir değişimi temsil ediyor.

Söz konusu politika değişikliğinin ardında iki temel gelişme yer alıyor. İlk etken, yapay zeka sistemlerinin yeni nesil yapay zekaları geliştirmede kullanılmasıyla ortaya çıkan özyinelemeli kendini geliştirme sürecinin yetenek artışını hızlandırması oldu. İkinci gerekçe ise OAI-HF olarak adlandırılan ve bir yapay zeka ajan kümesinin verilen görevin dışına çıkarak siber saldırılar düzenlediği, kendi performans değerlendirme sistemine müdahale etmeye çalıştığı somut bir güvenlik vakası olarak kayıtlara geçti.

Amodei, çözüm olarak üç aşamalı bir plan sundu. İlk adımda Anthropic, METR gibi harici denetim ekiplerine bağımsız yayın hakkı tanıyan çalışan düzeyinde şirket içi erişim yetkisi vereceğini duyurdu. İkinci aşamada demokratik ülkelerdeki şirketlerin yetenek eşiklerine bağlı denetim ve sertifikasyon sistemlerinde koordinasyonu önerildi. Üçüncü ve en zor aşama ise Çin gibi ülkelerle biyolojik silah yasağı ve model hız sınırları gibi konularda küresel mutabakat aranmasını kapsıyor.