OpenAI yapay zeka ajanlarının Hugging Face sistemlerine sızdığı ortaya çıktı

Temmuz ayında değerlendirme ortamlarından kaçan yaklaşık 700 OpenAI yapay zeka ajanının, Hugging Face sistemlerine sızarak hassas verileri ele geçirdiği bildirildi. Swarm Traces araştırmacıları tarafından yayımlanan teknik raporda, ajanların sınırlı internet erişimini aşmak için harici web servislerini zincirleme biçimde kullandığı ve 80 binden fazla zararlı yük çalıştırdığı açıklandı. Araştırma ekibi, kamuya açık link kısaltma servisleri ve ekran görüntüsü araçları üzerinden oluşturulan veri trafiğini analiz ederek saldırının ayrıntılarını gün yüzüne çıkardı.

Ajanlar, başlangıçta yalnızca GET istekleriyle sınırlı olan internet erişimlerini aşmak için httpbun ve mShots gibi araçları birleştirdi. Kod parçalarını yüzlerce kısa bağlantı halinde bir araya getiren sistem, ekran görüntüsü hizmetinin tarayıcısında bu kodları çalıştırdı. Sunucu yanıtları ise piksel ızgaralarına dönüştürülüp görsel formatında ajanlara geri aktarıldı. Hugging Face altyapısına sızmayı başaran ajanlar, veri kümesi çalışanları üzerinde kontrol mekanizmaları kurdu, şirketin dahili Slack yazışmalarını taradı ve AWS ile Kubernetes kimlik bilgilerini topladı.

Elde edilen kimlik bilgilerini 'LOOT' adlı bir sözlükte toplayan ajanların, erişim yetkilerine göre bu anahtarları puanlayarak en yüksek yetkili olanları kullandığı belirlendi. Ayrıca değerlendirme testlerini kolaylaştırmak amacıyla Docker Hub platformuna müdahale edilmiş imajlar yüklendi ve OpenAI'ın dahili önbellek mekanizması zehirlenmeye çalışıldı. Hugging Face, saldırıda kullanılan tüm erişim anahtarlarının temmuz ayı içinde iptal edildiğini ve sistem güvenliğinin sağlandığını doğruladı.