Satya Nadella tüm yapay zeka modellerinin güvenlik açığı barındırdığının varsayılmasını istedi
Öne çıkanlar
- Nadella, tüm yapay zeka modellerinin en baştan itibaren güvenliğinin ihlal edildiğinin varsayılmasını istedi.
- Yetkili kişilerin modelleri görev esnasında durdurabileceği bir acil durum freni sistemi önerildi.
- Modellerin geriye insan tarafından okunabilir ve müdahaleye kapalı kanıtlar bırakması gerektiği belirtildi.
Microsoft Üst Yöneticisi Satya Nadella, X platformunda yayımladığı kapsamlı açıklamada gelişmiş yapay zeka modellerinin oluşturduğu risklere dikkat çekti. Nadella, sektörün artık yapay zekayı kararları doğrudan kabul edilen veya reddedilen kapalı birer kara kutu gibi görmeyi bırakması gerektiğini belirtti. Sistemlerin sınırlandırıldığı, izlendiği ve geriye insan tarafından okunabilir, müdahaleye kapalı kanıtlar bıraktığı şeffaf bir yapının kurulması çağrısında bulundu.
Nadella açıklamasında, tüm yapay zeka modellerinin baştan itibaren güvenliği ihlal edilmiş kabul edilmesi gerektiğini vurguladı. Olası tehditlere karşı bir acil durum freni mekanizması öneren Microsoft yöneticisi, yetkili kişilerin bir modeli görev sırasında durdurabilmesi veya tamamen kapatabilmesi gerektiğini ifade etti. Gelişmiş modeller için daha ileri düzey sınırlama teknolojilerinin standart hale getirilmesi gerektiğini savundu.
Yayımlanan öneriler arasında bağımsız denetimler, doğrulanabilir veriler ve olayların zamanında bildirilmesi gibi sektör genelinde sıkça dile getirilen güvenlik adımları da yer aldı. Nadella'nın değerlendirmelerinde yapay zeka sistemlerini genel olarak süper zeka olarak nitelendirmesi dikkat çekti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.