Yapay zeka felaket olasılığı P(doom) kavramıyla ölçülüyor
Öne çıkanlar
- P(doom), yapay zekanın yol açabileceği varoluşsal felaket veya yok oluş senaryolarının olasılığını gösteriyor.
- 2023 yılında yapılan araştırmacı anketinde ortalama risk tahmini yüzde 14,4, medyan değer ise yüzde 5 olarak ölçüldü.
- Uzman tahminleri Marc Andreessen'in yüzde 0 oranından Roman Yampolskiy'nin yüzde 99,9 seviyelerine kadar genişliyor.
Yapay zeka güvenliği alanında P(doom), yapay zekanın yol açabileceği varoluşsal felaket veya insanlığın yok oluş senaryolarının gerçekleşme olasılığını ifade ediyor. Rasyonalist topluluklar ve araştırmacılar arasında gayriresmi bir kısaltma olarak doğan bu terim, GPT-4 modelinin çıkışından sonra Geoffrey Hinton ve Yoshua Bengio gibi öncü isimlerin risk uyarılarıyla yaygınlaştı. Yapılan ekonomik analizler, yapay zekadan kaynaklanan küçük bir varoluşsal risk oranının bile güvenlik araştırmalarına ayrılan büyük bütçeleri haklı çıkaracağını gösteriyor.
Sektör temsilcileri ve uzmanlar bu felaket riskine dair farklı tahminler paylaşıyor. Yapay zeka araştırmacılarıyla 2023 yılında yapılan bir ankette, önümüzdeki 100 yıl içinde yapay zekanın insanlığın yok olmasına veya kalıcı güç kaybına yol açma olasılığının ortalaması yüzde 14,4, medyan değeri ise yüzde 5 olarak hesaplandı. Anthropic yöneticisi Dario Amodei riski yüzde 10 ila 25 arasında görürken, Marc Andreessen riski yüzde 0, Yann LeCun ise asteroid çarpmasından daha düşük bularak yüzde 0,01'in altında görüyor.
Terim genel kabul görse de kavramsal çerçevesine yönelik çeşitli eleştiriler de yöneltiliyor. Bazı araştırmacılar, felaket tahminlerinin genel yapay zekanın varlığına bağlı olup olmadığının, öngörülen zaman aralığının ve kıyamet kavramının tam sınırlarının netleştirilmediğini belirtiyor. Popüler kültüre de sızan kavram, çeşitli müzik gruplarının plak şirketi adlandırmalarında dahi kullanılıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.