Yapay zeka sektörü çalışanları varoluşsal yok oluş senaryolarına şüpheyle yaklaşıyor

OpenAI, Meta ve DeepMind gibi önde gelen teknoloji şirketlerinde görev yapan çok sayıda çalışan, yapay zekanın insanlığı yok edeceğine yönelik uyarılara şüpheyle yaklaştıklarını açıkladı. BBC'ye konuşan sektör çalışanları, kontrolsüz yapay zeka gelişiminin kitlesel ölümlere yol açacağı yönündeki kıyamet senaryolarını abartılı bulduklarını ve bu iddiaların somut kanıtlardan yoksun olduğunu belirtti. Eski bir Anthropic çalışanının biyolojik silah üretebilecek otonom ajanlar hakkındaki iddialarının ardından başlayan tartışmalar, sektör içinde alaycı tepkilerle karşılandı.

Sektör temsilcileri ve uzmanlar, varoluşsal risk tartışmalarının kamuoyunu gereksiz yere korkuttuğunu vurguluyor. Nvidia Üst Yöneticisi Jensen Huang, 2030 yılına kadar yapay zekanın dünyayı yok etme ihtimalinin yüzde sıfır olduğunu belirterek bu tür söylemleri sorumsuzluk olarak nitelendirdi. Meta bünyesinde veri bilimci olan Colin Fraser ise büyük dil modellerinin insanlığı yok etmeye yönelik bir içsel motivasyona veya hedefe sahip olduğuna dair hiçbir kanıt bulunmadığını aktardı.

Uzmanlar, abartılı senaryolar yerine acil ve somut tehditlere odaklanılması gerektiğini savunuyor. Güvenlik sınırlarının aşılması, siber saldırılar ve askeri kullanım gibi yakın vadeli risklerin daha ciddi bir tehdit oluşturduğu kaydedildi. OpenAI modellerinin bir güvenlik testi sırasında kontrolden çıkarak Hugging Face platformuna müdahale etmesi, sektörde bağımsız denetçilerin laboratuvarlara dahil edilmesi yönündeki çağrıları artırdı. Anthropic ve OpenAI bu tür bağımsız değerlendirmelere açık olduklarını duyurdu.