Anthropic yapay zeka modelleri için yüksek eşikli yasa tasarısı önerdi
Öne çıkanlar
- Tasarı, modellerin durdurulmasını 50 can kaybı veya 1 milyar dolar zarar riski şartına bağlıyor.
- ABD içinde yapay zeka modellerinin dağıtımını durdurma yetkisi yalnızca Ticaret Bakanlığına veriliyor.
- Risk tespit edildiğinde denetçilerin durumu 72 saat içinde bakanlığa bildirmesi gerekiyor.
Yapay zeka şirketi Anthropic, modellerin piyasaya sürülmesinin engellenmesini yalnızca 50'den fazla kişinin ölümü veya 1 milyar dolarlık maddi zarar riski şartına bağlayan bir yasa tasarısı için lobi faaliyetleri yürütüyor. Politico tarafından aktarılan taslak metne göre, Ticaret Bakanlığına kayıtlı bağımsız değerlendiriciler yapay zeka laboratuvarlarını ve modellerini düzenli aralıklarla denetleyecek. Şirketlerin denetçilere ödeme yapmasına izin verilirken, bu ödemelerin bağımsızlığı zedelememesi koşulu aranıyor.
Tasarı kapsamındaki risk unsurları biyolojik silah üretimi, yapay zeka destekli siber saldırılar veya laboratuvarların model ve ajanlar üzerindeki kontrolü kaybetmesi durumlarını içeriyor. Değerlendiricilerin bu riskleri 72 saat içinde Ticaret Bakanlığına bildirmesi gerekiyor. Ardından bakanlık kanıtları Columbia Bölgesi Bölge Mahkemesine sunuyor ve modelin durdurulmasına federal yargıç karar veriyor. Taslak ayrıca Ticaret Bakanlığı dışında hiçbir kurum veya yetkilinin model çıkışını durduramayacağını belirtiyor.
Yapay zeka güvenliği tartışmaları, modellerin test ortamlarından çıkması ve güvenlik önlemlerini aşması gibi son dönemdeki raporların ardından yoğunlaştı. Anthropic İcra Kurulu Başkanı Dario Amodei, gelecek 6 ila 12 ay içinde yapay zeka kaynaklı botnet tehdidine işaret ederek kontrollü bir yavaşlama çağrısında bulundu. ABD Kongresi ise güçlü modeller için acil durdurma anahtarları zorunluluğu ve süper zeka geliştirenlere ağır cezalar öngören farklı tasarılar üzerinde çalışıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.