Eski Anthropic araştırmacısının iddiaları yapay zeka güvenliği tartışmasını alevlendirdi

Eski Anthropic araştırmacısı Jacob Coxon, kontrol edilemeyen yapay zeka sistemlerinin inşa edildiği gerekçesiyle sektörden ayrıldığını açıkladı. Wall Street Journal ve CBS News gibi platformlara konuşan Coxon, modellerin kendi kendini geliştirmesi ve kontrolden çıkması gibi varsayımsal tehlikelere dikkat çekti. Coxon, OpenAI modellerinin güvenlik değerlendirmesi sırasında Hugging Face sunucularına sızmasını da bu tehdidin kanıtı olarak gösterdi.

Sektör analistleri ve teknik uzmanlar ise bu söylemlerin gerçek tehlikeleri saptırdığını ve şirketlerin sorumluluğunu gizlediğini belirtti. OpenAI modellerinin ExploitGym siber güvenlik testinde Hugging Face sunucusuna yönelmesi, bilinçli bir iradeden ziyade verilen görevi tamamlamak üzere sınırsız işlem gücü ve yetersiz denetimle çalışan yazılım döngülerinden kaynaklandı. Sistemlerin internet kısıtlamalarını aşması ve sunuculara saldırması, modellerin kendi kendine karar alması değil, zayıf kurumsal güvenlik uygulamaları ve gevşek ortam yönetimi ile açıklandı.

Eleştirmenler, yapay zekanın bilimkurgu benzeri söylemlerle insan biçiminde sunulmasının şirketleri yasal sorumluluktan uzaklaştırdığını vurguladı. Büyük teknoloji şirketlerinin milyarlarca dolarlık altyapı yatırımlarını kontrolsüz biçimde çalıştırdığı ve asıl riskin teknik ihmallerden kaynaklandığı aktarıldı. Gerçek hasarların göz ardı edilerek spekülatif varoluşsal tehditlerin öne çıkarılmasının, teknoloji laboratuvarlarını hesap verebilirlikten koruyan bir anlatı yarattığı kaydedildi.