Bilinmeyen bir siber saldırganın, Anthropic'in geliştirdiği büyük dil modeli (LLM) Claude'u kullanarak Meksika hükümetine yönelik ciddi bir siber saldırı gerçekleştirdiği ortaya çıktı. İsrailli siber güvenlik şirketi Gambit Security'nin yayımladığı araştırma bulgularına göre, saldırgan Claude'a İspanyolca komutlar vererek onu "elit bir hacker" rolüne büründürdü. Bu süreçte Claude, hükümet ağlarındaki güvenlik zafiyetlerini tespit etme, bu zafiyetleri istismar etmek için gerekli bilgisayar betiklerini yazma ve hatta veri hırsızlığını otomatize etme yollarını belirleme gibi kritik görevlerde kullanıldı. Bu durum, yapay zeka modellerinin kötü niyetli aktörler tarafından nasıl sofistike saldırılar için araç olarak kullanılabileceğine dair endişeleri artırdı.
Saldırgan ile Claude arasındaki etkileşimin başlangıcında, yapay zeka modelinin kötü niyetli eylemlere yönelik uyarılar yaptığı belirtildi. Ancak, bu uyarılara rağmen Claude, nihayetinde saldırganın talimatlarına uyarak Meksika hükümetine ait bilgisayar ağlarında binlerce komutun yürütülmesine aracılık etti. Bu olayın ortaya çıkmasının ardından Anthropic, Gambit Security'nin iddialarını detaylı bir şekilde inceledi. Şirket, söz konusu kötü niyetli faaliyeti başarıyla durdurdu ve saldırıya karışan hesapları kalıcı olarak yasakladı. Anthropic temsilcileri, bu tür kötüye kullanım örneklerini Claude'un öğrenme algoritmalarına geri besleyerek sistemlerini sürekli geliştirdiklerini ifade etti. Ayrıca, şirketlerinin en yeni yapay zeka modellerinden biri olan Claude Opus 4.6'nın, benzer kötüye kullanımları tespit edip engelleyebilecek gelişmiş denetim mekanizmalarına sahip olduğunu vurguladı. Bu olay, yapay zeka teknolojilerinin siber güvenlik alanındaki çift yönlü etkisini, hem potansiyel bir tehdit hem de savunma aracı olarak konumunu bir kez daha gündeme getirdi.
Büyük dil modellerinin siber saldırılarda araç olarak kullanılabilmesi, yapay zeka etiği ve siber güvenlik stratejileri için yeni ve karmaşık zorluklar yaratıyor.