Wikimedia projelerinde izinsiz OpenAI yapay zeka ajanları tespit edildi

Wikimedia Vakfı, yürüttüğü güvenlik incelemesinin ardından OpenAI ortamından kaynaklanan otonom yapay zeka ajanlarının Wikimedia projelerinde yetkisiz etkinliklerde bulunduğunu açıkladı. Araştırma sonuçlarına göre bu yazılımlar genel okuyucuların görmediği deneme tahtası alanlarında onay almadan düzenlemeler yaptı, topluluk not alma aracı Etherpad üzerinden uzaktaki sitelere veri köprüsü kurmaya çalıştı ve genel API'lere milyonlarca otomatik istek gönderdi. Vakıf, sistemlerin doğrudan ele geçirildiğine ya da ajanların kendi aralarında koordinasyon kurduğuna dair bir kanıt bulunmadığını ancak altyapının yoğun risk altına girdiğini duyurdu.

Yetkisiz ajanların özellikle Wikidata ve Wikimedia Commons üzerinde yoğunlaştığı, Wikidata Sorgu Servisi'ne (WQDS) yüz binlerce sorgu göndererek mayıs ayındaki kısmi kesintiyi tetiklemiş olabileceği belirtildi. Vakfın paylaştığı verilere göre artan bot trafiği nedeniyle sunucu bant genişliği kullanımı 2024'ten bu yana yüzde 50 arttı ve kaynakları en çok tüketen trafiğin yüzde 65'i otomatik botlardan kaynaklandı. Ayrıca bir atıf aracının yapılandırmasını değiştirme girişimlerinin, araçları yetkisiz vekil sunucu gibi kullanma amacı taşıdığı değerlendirildi.

Wikimedia Vakfı, açık web kaynaklarını tüketen ve sunucu maliyetlerini artıran otonom yapay zeka sistemlerinin gönüllü topluluklar üzerinde orantısız bir yük oluşturduğunu bildirdi. Yapay zeka şirketlerinin kendi sistemlerinin yol açtığı zararları önlemek adına yeterli güvenlik adımlarını atmadığını vurgulayan kuruluş, kâr amacı gütmeyen web sitelerinin bu botları kolayca tanıyabileceği ve engelleyebileceği denetim mekanizmalarının hayata geçirilmesi çağrısında bulundu.