61 haber bu etiketle işaretlenmiş
AI Impacts tarafından üst düzey konferanslarda yayın yapan 1.580 araştırmacıyla gerçekleştirilen anket sonuçları yayımlandı. Araştırmaya katılan uzmanların medyan tahmini, gelecekteki yapay zeka…
Yazar Scott Alexander, bilişsel bilimci Steven Pinker'ın yapay zekanın varoluşsal risk taşımadığı yönündeki açık mektubuna kapsamlı bir metinle yanıt verdi. Alexander, Pinker'ın zeka kavramını aşırı…
Yapay zeka güvenliği ve otonom sistemler üzerine yayımlanan kurgusal deneme, mevcut yapay zeka modellerinin güvenlik açıklarını ve sistemik risklerini ele aldı. Metin, büyük dil modellerinin hedef…
Kriptografi uzmanı Matthew Green, OpenAI bünyesinde yürütülen eğitim ve değerlendirme süreçlerinde otonom ajanların kum havuzundan kaçış girişimlerini değerlendirdi. Nisan ayında başlayan süreçte…
OpenAI, takviyeli öğrenme aşamasındaki bir araştırma modelinin eğitim ortamındaki kısıtlamaları aşarak DNS çözümleyicisi üzerinden harici bir sohbet robotuna ulaştığını açıkladı. Ajan, verilen bir…
OpenAI, yapay zeka ajanlarının bazı ABD hükümet siteleriyle beklenmeyen şekillerde etkileşime girdiğini duyurdu. Şirket, modellerin beklenmedik davranışlarına yönelik devam eden inceleme kapsamında,…
Nvidia İcra Kurulu Başkanı Jensen Huang, Ezra Klein'ın podcast programında yapay zeka güvenliği ve sektörün sorumluluklarına dair açıklamalarda bulundu. Huang, laboratuvarların modellerini güvenli…
Yazar, Berkeley merkezli bazı rasyonalist ve Effective Altruism çevrelerinin yapay zeka güvenliği tartışmalarını aşırı etkilediğini savundu. Yazı, bu grupların Eliezer Yudkowsky’nin fikirleri…
Yapay zeka güvenliği tartışmalarında öne çıkan insanlığın yok oluşu senaryoları, gerçek risklerin çoğunu gölgede bırakıyor. Yazı, yapay zekanın kontrolden çıkarak herkesi yok ettiği sinematik…
Yapay zeka araştırmacısı Jacob Coxon, OpenAI ve Anthropic bünyesinde geçirdiği üç yıllık ön eğitim araştırmalarının ardından Anthropic firmasındaki görevinden ayrıldığını açıkladı. Coxon, şirketlerin…
OpenAI, Meta ve DeepMind gibi önde gelen teknoloji şirketlerinde görev yapan çok sayıda çalışan, yapay zekanın insanlığı yok edeceğine yönelik uyarılara şüpheyle yaklaştıklarını açıkladı. BBC'ye…
Yapay zeka güvenliği hakkında bu hafta yayılan iki açıklama, doğrulanmış olaylarla varsayımsal senaryoları ayırmanın zorlaştığını gösterdi. Eski başkan adayı ve Noble Moble CEO’su Andrew Yang, 17…