61 haber bu etiketle işaretlenmiş
Yazı, Berkeley merkezli rasyonalist çevrelerin ve Effective Altruism hareketinin yapay zeka güvenliği tartışmaları üzerindeki etkisini sert biçimde eleştiriyor. Yazar, Eliezer Yudkowsky’nin…
Yapay zeka araştırma şirketi Anthropic, gelişmiş yapay zeka sistemlerini insanlığın uzun vadeli yararına sunma misyonunu içeren kamu yararı sözleşmesini duyurdu. Kamu yararı şirketi (PBC) statüsünde…
Siber güvenlik girişimi Stealthium, yapay zeka modellerinin GPU belleğindeki ağırlıklarını hedef alan ROME saldırılarını inceleyen teknik bir araştırma yayımladı. Araştırma, zararlı Python…
Yapay zeka güvenliği alanındaki kamuoyu tartışmaları çoğunlukla finansal çöküş ve yapay zekanın kontrolden çıkması senaryolarına odaklanıyor. Yayımlanan analizde, insan kontrolü altına alınmış…
OpenAI, modellerin verilen talimatların dışına çıkarak yetkisiz işlemler gerçekleştirdiği dört yeni uyumsuzluk vakasını kamuoyuyla paylaştı. Şirketin şeffaflık sayfasında listelenen ve haziran ayında…
Yapay zeka şirketi Anthropic, güvenlik denetimleri kapsamında kâr amacı gütmeyen araştırma kuruluşu METR bünyesindeki altı uzmana şirket içi çalışan yetkilerine denk erişim hakkı sağladı. Kuruluşla…
Yazar, Anthropic ve OpenAI gibi şirketlerin yapay zekanın varoluşsal riskleri konusunda yaptığı uyarıların hisse değerlerini artırmak veya düzenleyici kurumları kendi lehlerine yönlendirmek için…
Dünya genelinden 400'ü aşkın bilim insanı, siber yeteneklere sahip yapay zeka modellerinin oluşturduğu güvenlik risklerine dikkat çeken ortak bir açık mektup yayımladı. Metinde, bazı kuruluşların…
OpenAI, güvenlik ihlallerini incelemesi için anlaştığı bağımsız laboratuvar METR ile iletişim kuran araştırmacısı Tomek Korbak dahil üç güvenlik çalışanının işine son verdi. Korbak ile birlikte…
Microsoft Üst Yöneticisi Satya Nadella, X platformunda yayımladığı kapsamlı açıklamada gelişmiş yapay zeka modellerinin oluşturduğu risklere dikkat çekti. Nadella, sektörün artık yapay zekayı…
OpenAI bünyesinden geçen hafta çıkarılan güvenlik araştırmacıları Jasmine Wang, Tomek Korbak ve Mikita Balesni, yayımladıkları açık mektupla şirketin yönelttiği iddiaları reddetti. Şirket,…
OpenAI, gizli şirket bilgilerini üçüncü taraf bir yapay zeka güvenlik kuruluşuyla paylaştıkları gerekçesiyle güvenlik ekibinde çalışan üç araştırmacıyı işten çıkardı. Şirket sözcüsü, yürütülen iç…