Satya Nadella yapay zeka güvenliği konusundaki görüşünü değiştirdi
Öne çıkanlar
- Nadella, yapay zeka geliştikçe uyumun kendiliğinden sağlanacağı düşüncesini terk etti.
- Modellerin potansiyel bir iç tehdit sayılarak deterministik denetimlerle sınırlandırılması önerildi.
- Sektör liderleri ve araştırmacılar yapay zeka yeteneklerinin kontrol hızını aşabileceğini belirtiyor.
Microsoft CEO'su Satya Nadella, yapay zeka sistemlerinin yetenekleri arttıkça insan değerlerine uyumunun kendiliğinden sağlanacağı yönündeki görüşünü değiştirdiğini açıkladı. 20VC podcast programına katılan Nadella, modellerin ölçeklenmesi ve yeteneklerinin gelişmesi beklendiği gibi ilerlese de uyum sorununun çözülmediğini ve tahmin edilenden daha zor bir problem olduğunu belirtti.
Nadella, daha önce yaptığı açıklamalarda da yapay zeka risklerine dikkat çekerek şirketlerin bu modelleri birer iç tehdit gibi ele alması gerektiğini ifade etmişti. Belirsiz çıktılar üreten modellerin deterministik sistem tasarımları, insan denetimleri ve güvenilir operasyonel süreçlerle çevrelenmesi gerektiğini savunan Microsoft yöneticisi, mevcut standartların yetersiz kaldığı durumlarda yeni kuralların belirlenmesi çağrısında bulundu.
Yapay zeka modellerinin kendi kendine güvenli hale gelmeyeceği yönündeki bu yaklaşım, sektördeki diğer liderlerin uyarılarıyla örtüşüyor. OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei de benzer riskleri gündeme taşırken, binden fazla sektör çalışanı yapay zeka gelişim hızının insan denetimini aşabileceğine dair ortak bir mektup yayımlamıştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.