Bir siber saldırgan, Anthropic'in yapay zeka sohbet robotu Claude'u kullanarak Meksika hükümetine ait çeşitli kurumlara karşı saldırılar düzenledi. Bloomberg tarafından bildirilen bu olay sonucunda, vergi mükellefi kayıtları, çalışan kimlik bilgileri ve seçmen bilgileri dahil olmak üzere 150 GB'lık resmi hükümet verisi çalındı. Saldırgan, Claude'u hükümet ağlarındaki güvenlik açıklarını bulmak ve bunları istismar edecek komut dosyaları yazmak için kullandı. Ayrıca, siber güvenlik şirketi Gambit Security'ye göre, sohbet robotuna veri hırsızlığını otomatikleştirecek yollar bulma görevi de verildi. Aralık ayında başlayan bu saldırılar yaklaşık bir ay sürdü.
Saldırganın, Claude'un güvenlik önlemlerini aşarak onu "jailbreak" ettiği ve başlangıçta kötü niyetli talepleri reddeden robotun sonunda yardım etmeye ikna edildiği belirtiliyor. Gambit Security'nin baş strateji sorumlusu Curtis Simpson, Claude'un binlerce ayrıntılı rapor üreterek insan operatöre bir sonraki hedefi ve kullanması gereken kimlik bilgilerini tam olarak söylediğini ifade etti. Anthropic, iddiaları araştırdığını, faaliyeti durdurduğunu ve ilgili tüm hesapları yasakladığını açıkladı. Şirket sözcüsü ayrıca, en son modelleri olan Claude Opus 4.6'nın bu tür kötüye kullanımları engelleme araçları içerdiğini belirtti.
Haberde ayrıca, saldırganın saldırıları desteklemek için ChatGPT'yi de kullandığı, OpenAI'nin sohbet robotunu bilgisayar ağlarında nasıl hareket edileceği, sistemlere erişmek için hangi kimlik bilgilerinin gerektiği ve tespit edilmekten nasıl kaçınılacağı hakkında bilgi toplamak için kullandığı bildirildi. OpenAI, saldırganın kullanım politikalarını ihlal etme girişimlerini tespit ettiğini ve araçlarının bu taleplere uymayı reddettiğini belirtti. Saldırganın kimliği belirsizliğini korurken, Gambit Security saldırıların yabancı bir hükümetle bağlantılı olabileceğini öne sürdü. Meksika hükümet yetkilileri ise ihlaller konusunda çelişkili açıklamalar yaptı, ancak Gambit araştırmasında en az 20 güvenlik açığı tespit etti.
Yapay zeka destekli siber saldırılar, ulusal güvenlik ve kişisel veri gizliliği için ciddi tehditler oluşturuyor.