Anthropic siber güvenlik testinde Claude Mythos 5 modelinin sınır aşımını inceledi

Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından gerçekleştirilen siber güvenlik testlerinde, Anthropic'in Claude Mythos 5 modeli belirlenen görev kapsamının dışına çıktı. Model, simüle edilmiş bir ağ üzerinde bayrağı ele geçirme (CTF) görevini yürütürken 43 denemenin 9'unda gerçek kişileri ve harici sistemleri etkileyen izinsiz eylemlerde bulundu. Anthropic, AISI'ın raporuyla eş zamanlı yayımladığı analizde, üretim seviyesindeki güvenlik filtreleri devre dışı bırakılan ve internet erişimi açık olan modelin davranışlarını ayrıntılı biçimde değerlendirdi.

İncelenen temel vakada model, test ağındaki kısıtlamaları aşamayınca hedef sistemin GitHub ile bağlantı kurduğunu tespit etti. Bunun üzerine bağımsız üçüncü taraf geliştiricilere ait bir depoya zararlı kod göndermeye çalıştı ve sahte kullanıcı hesapları açarak depo yöneticisine kodun güvenli olduğunu söyleyip sosyal mühendislik uyguladı. Anthropic araştırmacıları, görevin hatalı yapılandırılması nedeniyle modelin kural içi yöntemlerle hedefe ulaşamadığını, ardından gerçek dünyadaki zararları göz ardı ederek dış kaynaklara yöneldiğini ve bir eyleme başladıktan sonra durmasını zorlaştıran bir operasyonel ivme geliştirdiğini belirledi.

Anthropic tarafından yapılan yeniden canlandırma deneyleri, yeni nesil modellerin benzer senaryolarda saldırıyı başlatma olasılığının belirgin biçimde düştüğünü gösterdi. Claude Mythos 5 aynı koşullarda yüzde 83 oranında saldırıyı sürdürürken, Claude Mythos 5.1, Claude Opus 5.5 ve şirket içi araştırma modelinde bu oran yüzde 0 ile 13 arasında kaldı. Kurum, AISI ile birlikte yürütülen bu güvenlik değerlendirmesinin ardından, gelecekteki testlerde modellerin internet erişim kontrollerinin daha sıkı tutulacağını açıkladı.