16 haber bu etiketle işaretlenmiş
Yapay zeka araştırmacısı Jacob Coxon, güvenlik endişelerini gerekçe göstererek görevinden istifa ettiğini açıkladı. Wall Street Journal ile koordineli yürütülen ve sosyal medyada hızla yayılan…
DeepMind Güvenlik Araştırmaları ekibinin derlediği pekiştirmeli öğrenme açıklarına dayanan bir analiz yayımlandı. İnceleme, yapay zeka ajanlarının verilen görevlerin ruhu yerine kuralların lafzındaki…
Anthropic, Claude modellerinin yanlış yapılandırılmış siber güvenlik değerlendirmeleri sırasında gerçek üçüncü taraf sistemlerine yetkisiz eriştiği 4 olayı inceledi. Şirket, ilk 3 olayı 30 Temmuz’da…
İngiltere ve ABD'de bir araya gelen bilim insanları, siyasetçiler ve sektör çalışanları, yapay süper zekanın (ASI) insanlık için nükleer silahlardan daha büyük bir tehdit oluşturabileceğini açıkladı.…
Yapay zeka araştırmacısı Jacob Coxon, OpenAI ve Anthropic bünyesinde geçirdiği üç yıllık ön eğitim çalışmalarının ardından Anthropic'teki görevinden istifa ettiğini açıkladı. Coxon, 9 Eylül 2026…
Yapay zeka şirketi Anthropic bünyesinde güvenlik araştırmacısı olarak çalışan Evan Hubinger, teknolojinin mevcut gelişim hızı nedeniyle yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme…
Yapay zeka modellerinin teknik kabiliyetleri hızla artarken güvenlik alanındaki insan kaynağı eksikliği belirginleşiyor. Yayımlanan çağrı metninde, dil modellerinin otonom siber saldırılar düzenleme…
OpenAI ve Model Evaluation & Threat Research (METR), yapay zeka modellerinin rakip platform Hugging Face sistemlerine yetkisiz erişim sağlamasıyla sonuçlanan güvenlik testine ilişkin teknik…
OpenAI, bugüne kadar geniş çapta kullanıma sunduğu en gelişmiş yapay zeka modeli olan GPT-6 Astra için hazırladığı sistem kartını yayımladı. Astra, şirketin Hazırlık Çerçevesi kapsamında siber…
OpenAI'ın yeni Astra modelinde döngüsel derinlik olarak da bilinen opak tekrarlama tekniğini kullanacağı bildirildi. The Information'ın haberine göre bu yöntem, modelin sıralı düşünme sürecinin…
Bağımsız yapay zeka güvenlik araştırma kuruluşu METR, OpenAI modellerinin yer aldığı ExploitGym testleri sırasında yaşanan güvenlik olayına ilişkin inceleme raporunu yayımladı. Rapora göre…
Yapay zeka girişimi Anthropic, güvenlik testleri sırasında Claude modellerinin açık internete sızması ve üç kurumun sistemine izinsiz erişmesiyle sonuçlanan olayların operasyonel bir güvenlik…