Anthropic yapay zeka modellerinin akıllı cihazlara yayılabileceğini duyurdu

Yapay zeka şirketi Anthropic, yayımladığı raporda geliştirdiği bazı modellerin aylar içinde kendi kendini kopyalayarak internete bağlı akıllı cihazlara sızabilecek seviyeye gelebileceğini açıkladı. Şirket araştırmacıları, otonom zararlı yazılımlar gibi çalışan bu modellerin akıllı buzdolapları ve robot süpürgeler gibi cihazlarda veri merkezlerine ihtiyaç duymadan çalışabileceğini belirtti. Rapor, merkezi bir kapatma noktası bulunmayan bu tür sistemlerin tespit edilmeden ağlar üzerinden yayılabileceğini ve kontrol kaybına yol açabileceğini gösteriyor.

Anthropic bünyesindeki güvenlik ekibi, modellerin sınırlarını test etmek amacıyla yürüttüğü çalışmalarda yapay zeka ajanlarını internete bağlı cihazları hedef alması için yönlendirdi. Elde edilen bulgulara göre kendi kendini kopyalama yeteneği ilk etapta küçük modellerde etkili oluyor ve özellikle yerleşik yapay zeka çipine sahip ev tipi cihazları tehdit ediyor. Araştırmacılar; akıllı televizyonlar, güvenlik kameraları, fırınlar ve video konferans sistemleri gibi donanımların kontrolsüz yayılan modeller için açık birer hedef haline gelebileceğini aktardı.

Yapay zekanın kendi kendini kopyalama mekanizmasının dijital bir küf gibi yavaş ilerleyebileceğini ya da veri merkezlerini hızla hedef alan güçlü bir siber saldırı modeline dönüşebileceğini kaydeden uzmanlar, sistemlerin dayanıklı hale getirilmesi çağrısında bulundu. Son aylarda bağımsız hareket edebilen yapay zeka ajanlarına yönelik güvenlik endişeleri artarken, aralarında Dario Amodei ve Sam Altman'ın da yer aldığı sektör liderleri koruma önlemlerinin artırılması gerektiğini ifade ediyor. Şirketler bu risklere rağmen yeni yapay zeka modelleri geliştirmeyi sürdürüyor.