Google Tehdit İstihbarat Grubu (GTIG), 2025'in son çeyreğinde siber tehdit aktörlerinin saldırı yaşam döngüsünü hızlandırmak için yapay zekayı (AI) giderek daha fazla entegre ettiğini gözlemledi. Bu entegrasyon, keşif, sosyal mühendislik ve kötü amaçlı yazılım geliştirme gibi alanlarda verimlilik artışları sağladı. Google DeepMind ve GTIG, özellikle "distilasyon saldırıları" olarak bilinen model çıkarma girişimlerinde belirgin bir artış tespit etti. Bu saldırılar, Google'ın hizmet şartlarını ihlal eden bir fikri mülkiyet hırsızlığı yöntemi olarak öne çıkıyor. Google, bu tür kötü niyetli faaliyetleri tespit etmek, engellemek ve azaltmak için çeşitli adımlar attığını belirtiyor.
Raporda, gelişmiş kalıcı tehdit (APT) aktörlerinden gelen öncü modellere veya üretken AI ürünlerine doğrudan saldırılar gözlemlenmemiş olsa da, dünya genelindeki özel sektör kuruluşlarından ve tescilli mantığı klonlamaya çalışan araştırmacılardan sıkça model çıkarma saldırıları tespit edildiği ve bunların hafifletildiği vurgulanıyor. Kuzey Kore, İran, Çin ve Rusya gibi devlet destekli tehdit aktörleri için büyük dil modelleri (LLM'ler), teknik araştırma, hedefleme ve incelikli kimlik avı yemleri oluşturmada temel araçlar haline geldi. GTIG, henüz APT veya bilgi operasyonları (IO) aktörlerinin tehdit ortamını temelden değiştiren çığır açıcı yetenekler elde ettiğini gözlemlemediğini belirtiyor.
Makale ayrıca, AI ile güçlendirilmiş operasyonlar (keşif ve kimlik avı), ajan AI'ya artan ilgi (kötü amaçlı yazılım geliştirme için), HONESTCUE gibi AI entegre kötü amaçlı yazılım aileleri (Gemini'nin API'sini kullanarak kod üretme) ve yeraltı "jailbreak" ekosisteminin ortaya çıkışı gibi konuları da inceliyor. Google, bu erken göstergeleri belirleyerek, savunmacıları AI destekli tehditlerin bir sonraki aşamasını tahmin etmeleri ve kötü niyetli faaliyetleri proaktif olarak engellemeleri için gerekli istihbaratla donatmayı hedefliyor.
Google'ın yapay zeka modellerine yönelik artan "distilasyon" saldırılarını ve tehdit aktörlerinin AI'yı kötüye kullanım yöntemlerini detaylandırması, siber güvenlik dünyasında AI'nın hem bir araç hem de bir hedef olarak kritik rolünü gözler önüne seriyor.