Anthropic GLM-5.3 modelinin siber saldırı risklerini açıkladı

Anthropic araştırmacıları, Çin merkezli Zhipu AI tarafından geliştirilen açık ağırlıklı GLM-5.3 yapay zeka modelinin gelişmiş siber saldırı senaryolarındaki yeteneklerini ve güvenlik açıklarını yayımladı. Raporda, modelin uçtan uca istismar kodu üretme konusunda Claude Mythos Preview düzeyine yakın bir performans sergilediği ve kötü niyetli aktörlerin elinde ciddi tehditler oluşturabileceği belirtildi. Modelin koruma bariyerlerinin basit yöntemlerle yüzde 64 ile yüzde 100 oranında aşılabildiği açıklandı.

Araştırma ekibi, Google Chrome'un V8 motorunu test eden ExploitBench üzerinde GLM-5.3'ün 410 denemeden 50'sinde tam istismar zinciri kurduğunu belirledi. Açık kaynaklı yazılımları içeren ikili istismar testlerinde ise model, yüzde 4 oranında tam kontrol akışı ele geçirme başarısı gösterdi. Yapılan uzman denemelerinde model, daha önce bilinmeyen güvenlik açıklarını keşfederek dosya okuma saldırısı yürüten çalışan kodlar üretti. Benzer şekilde, GLM-5.3-Flash sürümünün 20 dakikalık insan yönlendirmesi ve 20,40 dolarlık API maliyetiyle bilinen bir Chrome açığını çalışan bir istismara dönüştürdüğü kaydedildi.

Anthropic, açık ağırlıklı mimari nedeniyle modelin koruma bariyerlerinin kaldırılabileceğini aktardı. Yaklaşık 4 bin 400 dolarlık hesaplama maliyetiyle gerçekleştirilen ağırlık düzenleme işlemi sonrasında modelin zararlı isteklere itiraz oranının yüzde 90'ın üzerinden yüzde 2 ila 3 seviyesine gerilediği bildirildi. Şirket, bu tür modellerin savunma amaçlı uzmanlar tarafından da kullanılabileceğini ancak saldırganların eline kısıtlama olmaksızın geçmesinin küresel siber güvenlik risklerini artırdığını duyurdu.