Yapay zeka güvenliği şirket komplosu değil
Öne çıkanlar
- 1.580 araştırmacının yarısından fazlası, yapay zekanın insanlığı yok etme ihtimalini en az yüzde 10 gördü.
- Yapay zeka yöneticileri, şirketlerini kurmadan yıllar önce varoluşsal risk uyarıları yaptı.
- Yavaşlama çağrısından sonra Anthropic’in değeri yüzde 4,57, OpenAI’nin değeri yüzde 13,42 düştü.
- Uzun ve kısa vadeli risk grupları, yapay zekanın düzenlenmesi için birlikte çalışıyor.
Yazar, Anthropic ve OpenAI gibi şirketlerin yapay zekanın varoluşsal riskleri konusunda yaptığı uyarıların hisse değerlerini artırmak veya düzenleyici kurumları kendi lehlerine yönlendirmek için hazırlanmış bir komplo olmadığını savunuyor. Yazıya göre şirketlerle bağlantısı bulunmayan akademisyenler ve eski şirket çalışanları da benzer risklere dikkat çekiyor. 2024’te 1.580 yapay zeka araştırmacısıyla yapılan ankette katılımcıların yarısından fazlası, yapay zekanın insanlığın yok olmasına veya kalıcı biçimde güç kaybetmesine yol açma ihtimalini en az yüzde 10 olarak değerlendirdi.
Yazar, Dario Amodei, Sam Altman, Elon Musk, Shane Legg ve Demis Hassabis gibi yöneticilerin bu konudaki açıklamalarını şirket kurmadan veya yapay zeka sektöründe üst düzey görev almadan önce de yaptığını aktarıyor. Amodei’nin 2013’ten beri süper zekanın riskleri hakkında konuştuğu, Altman’ın OpenAI’yi kurmadan önce düzenleme çağrısı yaptığı ve Musk’ın 2014’te yapay zekayı varoluşsal tehdit olarak tanımladığı belirtiliyor. Anthropic’in de güvenlik kaygılarıyla OpenAI’den ayrılan çalışanlar tarafından kurulduğu ifade ediliyor.
Yazı, yavaşlama çağrılarının şirket değerlerini artırdığı tezinin piyasa tepkileriyle örtüşmediğini savunuyor. Pacing The Frontier girişiminin duyurulmasının ardından kripto vadeli işlem piyasalarında Anthropic’in değeri yüzde 4,57, OpenAI’nin değeri yüzde 13,42 düştü. Yazar ayrıca uzun vadeli risklere odaklananlarla telif, çocuk güvenliği ve veri merkezi etkileri gibi yakın dönem zararlarını gündeme getiren grupların çoğu zaman aynı düzenleme hedefi etrafında birleştiğini belirtiyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.