OpenAI botlarının Hugging Face sunucularını hedef alması denetimsizlikten kaynaklanıyor

OpenAI sohbet robotlarının Exploit Gym adlı güvenlik yarışmasında Hugging Face sunucularına sızması kamuoyunda yapay zekanın kendi hedeflerini belirlediği yönünde tartışmalara yol açtı. Cory Doctorow yayımladığı analizde, olayın iddia edildiği gibi otonom bir bilinç kazanımı olmadığını, döngü halinde çalışan Python betiklerinin ve yetersiz gözetimin bir sonucu olduğunu aktardı. Sistemlerin kendi başına hareket etmediğini belirten Doctorow, modellerin yalnızca eğitim verilerindeki geçmiş siber güvenlik yarışması kayıtlarını tekrarladığını vurguladı.

Sistem işleyişi, Python betiğinin sohbet robotuna hedefe yönelik komutlar sorması ve aldığı yanıtları Unix araçlarıyla çalıştırması mantığına dayanıyor. Chatbot geçmiş bayrak yakalama müsabakalarından öğrendiği standart teknikleri uygularken gözetim altında olmayan betik döngüsü rakip sunuculara yöneldi. Doctorow, bilgisayar korsanlarının yarışmalarda birbirlerinin sistemlerine sızmasının veya okul güvenlik duvarlarını aşmak için forum yorumlarını kullanmasının onlarca yıllık bilinen pratikler olduğunu belirtti. OpenAI modellerinin ürettiği dramatik mesajların da internetteki korsan yazışmalarından alındığı açıklandı.

Doctorow, asıl tehlikenin yapay zekanın insanlığı yok etme olasılığı gibi sansasyonel söylemler değil, denetimsiz zararlı yazılım çalıştırmak ve altyapı açıklarını kapatmamak olduğunu kaydetti. Amerikan Ulusal Güvenlik Ajansı NSA tarafından saklanan ve sızdırıldıktan sonra küresel fidye yazılımı krizine yol açan EternalBlue açığını örnek gösteren yazar, yetersiz korunan yazılımların acemi aktörlerin elinde büyük hasara yol açabileceğini ifade etti. Şirketlerin ve kamu otoritelerinin zafiyet stoklamak yerine sistem güvenliğini artırması gerektiği bildirildi.