Yapay zeka güvenliği tartışmaları kapalı modellerin tekeline hizmet ediyor

Yapay zeka sektöründe küresel felaket ihtimali (P(doom)) ve modellerin geliştirme hızının sınırlandırılması çağrıları yeniden gündeme geldi. Anthropic yöneticisi Dario Amodei tarafından ortaya atılan yapay zeka sınırlarını yavaşlatma önerisi OpenAI ve Elon Musk tarafından destek görürken, sektör içinden alternatif sesler bu tartışmanın pazar gerçeklerini gizlediğine dikkat çekiyor. Güvenlik çağrılarının aslında kapalı kaynaklı az sayıda büyük ABD merkezli şirketin kurduğu egemenliği korumaya dönüştüğü savunuluyor.

Mevcut yapay zeka modelleri açık kaynak depolarını ve kamuya açık verileri yoğun biçimde tüketerek eğitiliyor. Ancak ortaya çıkan modeller yalnızca birkaç şirketin kontrolündeki kapalı ağırlıklar üzerinden topluma satılıyor. Düzenleyicilerin mevcut mevzuatları dahi uygulayamadığı bir ortamda, ajan yazılımların siber saldırıları ve RubyGems gibi paket depolarına yapılan müdahaleler sorumluluk almayan kapalı sistemlerden kaynaklanıyor. Pazarın bu şekilde çarpıtılması sektörün geneline yeni maliyetler yüklüyor.

Çinli laboratuvarların damıtma (distillation) yoluyla açık ağırlıklı modeller üretmesi, sektördeki tekelleşmeyi kıran ve ekosistemi dengeleyen bir unsur olarak değerlendiriliyor. Yapay zekanın yol açtığı gerçek tehlikenin insanlığın yok oluşundan ziyade, kamu kaynaklarıyla beslenen az sayıda şirketin oluşturduğu ekonomik ve operasyonel tahribat olduğu vurgulanıyor. Kapalı modellerin dayattığı lisans ve altyapı bedelleri ise yazılım mühendisliği başta olmak üzere birçok sektörü doğrudan zorluyor.