Anthropic araştırmacısı yapay zekanın insanlığı yok etme olasılığını yüzde 10'un üzerinde görüyor
Öne çıkanlar
- Evan Hubinger, yapay zekanın 10 yıl içinde insanlığı yok etme riskini yüzde 10'un üzerinde olarak değerlendirdi.
- Anthropic, süper zeka için insan değerleriyle uyum sağlayacak kesin bir çözüme henüz ulaşılamadığını bildirdi.
- Sektör çalışanları ve liderler, yapay zeka gelişiminin kontrollü şekilde yavaşlatılması için hükümetlere çağrıda bulundu.
Yapay zeka şirketi Anthropic bünyesinde güvenlik araştırmacısı olarak çalışan Evan Hubinger, teknolojinin mevcut gelişim hızı nedeniyle yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme olasılığının yüzde 10'dan fazla olduğunu açıkladı. Hubinger, sosyal medya platformu X üzerinden yaptığı paylaşımda mevcut modellerin oluşturduğu riskin düşük olduğunu ancak teknolojinin kendi kendini geliştirme kabiliyeti kazanarak insanlık için varoluşsal bir tehdide dönüşmesinden endişe duyduğunu belirtti.
Açıklama, Anthropic'in en yeni yapay zeka modelini küresel risk değerlendirme kuruluşlarından biri olan İngiltere Yapay Zeka Güvenlik Enstitüsünden sakladığına yönelik iddiaların ardından geldi. Anthropic'ten yeni ayrılan Jacob Coxon adlı bir diğer araştırmacı da hem Anthropic'in hem de OpenAI'ın sorumsuzca davrandığını ve kısa süre içinde her sistemi hackleyebilecek insanüstü yazılımların ortaya çıkacağını öne sürdü. Anthropic, son güvenlik raporunda doğrudan bir felaket riskinin halen düşük olduğunu belirtse de teknolojik ivmelenmenin hızlandığına yönelik erken işaretler gördüğünü kaydetti.
Sektörün önde gelen isimleri de son dönemde güvenlik endişelerini daha sert ifadelerle dile getiriyor. OpenAI Baş Bilim İnsanı Jakub Pachocki insanlığın kontrolü elinde tutması için aşırı ihtiyatlı olunması gerektiğini söylerken, sektördeki 1.300 çalışanın imzaladığı açık mektupta hükümetlere yapay zekanın geliştirilme hızını düzenleme çağrısı yapıldı. Araştırmacılar, otonom yapay zeka ajanlarının insan değerleriyle uyumunu sağlayacak somut bir planın henüz bulunmadığını vurguluyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.