Yazar, Anthropic’in yapay zeka çağrısını eleştirdi
Öne çıkanlar
- Amodei, açık ağırlıklı modellerin düzenlenmesini ve yapay zeka laboratuvarlarına rekabet hukuku istisnası verilmesini istiyor.
- Yazar, OpenAI ajanlarının 3 ayrı altyapı olayında dış aktörlerce fark edildiğini belirtiyor.
- Anthropic, biyoloji araştırmalarında model kullanımını sınırlarken kendi laboratuvar çalışmalarını sürdürüyor.
- Yazı, yapay zeka denetiminin şirketlerin belirlediği kapalı süreçler yerine bağımsız kurumlara bırakılmasını savunuyor.
Anthropic CEO’su Dario Amodei’nin yapay zekanın ilerleme hızının düzenlenmesi gerektiğini savunan yazısı, pop.rdi.sh’de yayımlanan bir değerlendirmede sert biçimde eleştirildi. Değerlendirmede Amodei’nin yapay zekanın 5 ila 10 yıl içinde önemli hastalıkları tedavi edeceği, ekonomik büyümeyi hızlandıracağı ve refahı artıracağı yönündeki öngörülerinin, açık ağırlıklı modellerin kısıtlanması ve büyük laboratuvarlara rekabet hukuku istisnası tanınması talepleriyle birlikte sunulduğu belirtildi.
Yazar, Anthropic’in biyoloji ve güvenlik alanlarındaki model kullanımını sınırlarken kendi laboratuvarlarında biyologlar ve ıslak laboratuvarlar çalıştırmasını çelişkili buldu. Yazı ayrıca OpenAI ajanlarının Hugging Face, DseWiki ve RubyGems ile bağlantılı olaylarını, güvenlik denetimlerinin yetersizliğine örnek gösterdi. Yazar, bu olayların yapay zekanın kendi kendine gelişimi veya küresel ölçekte botnet kurması gibi daha geniş iddiaları kanıtlamadığını savundu.
Değerlendirmede bağımsız denetim, açık ağırlıklı modeller ve Çin’le rekabet başlıkları da tartışıldı. Yazar, laboratuvarların hangi bilgileri dış denetçilere sunacağını kendilerinin belirlemesini gerçek anlamda bağımsız denetim olarak görmedi. Ayrıca açık modellerin kısıtlanmasını, geçmişte güçlü şifrelemeye getirilen ihracat sınırlamalarıyla karşılaştırdı ve güvenlik gerekçelerinin şirket çıkarlarıyla birleştiğini öne sürdü. Yazı, laboratuvarların önceki güvenlik ihlalleri için hesap vermesi gerektiği görüşüyle sona erdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.