Garry Tan ABD'li yapay zeka laboratuvarlarının da model damıtmasını istedi
Öne çıkanlar
- Garry Tan, düzenleyicilerin yapay zeka modeli damıtma yöntemlerine kısıtlama getirmemesi gerektiğini belirtti.
- Anthropic yayımladığı raporda Çinli laboratuvarların izinsiz damıtma yaptığını duyurdu.
- Tan, öncü modellerin kamusal verilerle eğitildiğini ve çıktıların kilitlenemeyeceğini kaydetti.
Y Combinator Üst Yöneticisi Garry Tan, ABD'li açık ağırlıklı yapay zeka laboratuvarlarının öncü modellerden bilgi çekme yöntemi olan damıtma tekniklerini serbestçe kullanabilmesi gerektiğini açıkladı. Çinli laboratuvarların benzer yöntemlerle geliştirdiği modellere dikkat çeken Tan, düzenleyicilerin bu sürece müdahale etmemesi ve ABD merkezli açık ağırlıklı alternatiflerin güçlendirilmesi gerektiğini savundu.
Anthropic bu hafta yayımladığı raporda, Çinli laboratuvarların kimlik gizleme ve çalınmış hesap bilgileri yoluyla yasa dışı damıtma saldırıları yürüttüğünü duyurdu. Anthropic Üst Yöneticisi Dario Amodei daha önce düzenleyicileri bu uygulamaları engellemeye çağırmıştı. Tan ise sahte kimlik kullanımını desteklemediğini, ancak kapalı kaynaklı model geliştiricilerinin kullanıcılara bilgi kullanım kısıtlamaları getirmesini doğru bulmadığını belirtti.
Tan, tescilli modellerin kamuya açık ve telifli verileri izin almadan toplayarak eğitildiğini, bu nedenle ortaya çıkan zekanın kısıtlayıcı hizmet şartlarıyla kilitlenmemesi gerektiğini vurguladı. Tan, öncü yapay zeka gücünün tek bir şirketin tekeline geçmesini en kötü senaryo olarak nitelendirerek pazarın dengelenmesi için açık ağırlıklı seçeneklerin varlığının şart olduğunu söyledi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.