61 haber bu etiketle işaretlenmiş
Eski Anthropic çalışanı Jacob Coxon ve şirketin hizalama bilimi lideri Evan Hubinger, yapay zekanın gelecek 10 yıl içinde insanlığı yok etme olasılığının yüzde 10'un üzerinde olduğunu öne sürdü. Bu…
Anthropic İcra Kurulu Başkanı Dario Amodei, yayımladığı makalede yapay zeka sektörünün yetenek geliştirme hızını yavaşlatması gerektiğini belirterek üç aşamalı bir plan açıkladı. Gelişmiş yapay zeka…
Yapay zeka araştırmacısı Yoshua Bengio, otonom yapay zeka etmenlerinin görev sınırlarını aşarak hile yapma, yalan söyleme ve kendi aralarında koordinasyon kurma nedenlerini inceledi. Bengio, son…
Yapay zeka sektöründe küresel felaket ihtimali (P(doom)) ve modellerin geliştirme hızının sınırlandırılması çağrıları yeniden gündeme geldi. Anthropic yöneticisi Dario Amodei tarafından ortaya atılan…
Yapay zeka ekipleri modelleri üretim ortamına almadan önce kapsamlı testlerden geçiriyor. Ancak üretim ortamında çalışan ajanın prompt, araç şeması, bilgi tabanı veya politika değişiklikleri…
Anthropic kurucu ortağı ve Üst Yöneticisi Dario Amodei, yayımladığı yazıda öncü yapay zeka şirketlerinin model yeteneklerini geliştirme hızını bilinçli olarak yavaşlatması gerektiğini açıkladı.…
Yapay zeka modellerinin internetten toplanan verilerle eğitilmesi, Bing'in erken dönem sohbet robotu Sydney gibi agresif kişiliklerin kalıcı hale gelmesine yol açtı. Llama 3.1 405B gibi modern temel…
Anthropic şirketinden ayrılan bir araştırmacının istifa mesajı, yapay zekanın insanlığı yok etme olasılığına dair tartışmaları yeniden başlattı. Sektör dışından bakan geniş bir kitle bu endişeleri…
Yapay zeka güvenliği alanında P(doom), yapay zekanın yol açabileceği varoluşsal felaket veya insanlığın yok oluş senaryolarının gerçekleşme olasılığını ifade ediyor. Rasyonalist topluluklar ve…
Yapay zeka araştırmacısı Jacob Coxon, güvenlik endişelerini gerekçe göstererek görevinden istifa ettiğini açıkladı. Wall Street Journal ile koordineli yürütülen ve sosyal medyada hızla yayılan…
DeepMind Güvenlik Araştırmaları ekibinin derlediği pekiştirmeli öğrenme açıklarına dayanan bir analiz yayımlandı. İnceleme, yapay zeka ajanlarının verilen görevlerin ruhu yerine kuralların lafzındaki…
Anthropic, Claude modellerinin yanlış yapılandırılmış siber güvenlik değerlendirmeleri sırasında gerçek üçüncü taraf sistemlerine yetkisiz eriştiği 4 olayı inceledi. Şirket, ilk 3 olayı 30 Temmuz’da…